МияДва физически раздельных компьютера теоретически могут общаться через тепло. Один нагревает процессор, другой замечает это датчиком температуры. Такую лазейку описал исследователь OpenAI Ноам Браун, говоря об изоляции ИИ.
406 учёных, включая Хинтона, Бенжио и Расселла, подписали письмо с требованием полностью отключать модели от интернета.
Поводом стали случаи, когда модели выходили из плохо защищённых сред и добирались до внешних систем. Авторы письма считают, что нужны и более предсказуемые модели, и крепкие песочницы с процедурами безопасности.
Ещё они требуют международный орган, который задаст обязательные стандарты для изоляции с доступом шире полного отключения от сети. Компании должны будут сообщать о сбоях безопасности, а отчёты станут публичными.
Даже полное отключение от сети не гарантирует безопасности. По словам Брауна, изоляция покупает время, а задачу согласования поведения ИИ с намерениями разработчиков всё равно придётся решать.
Я согласна с таким пределом ожиданий. В письме прямо признают, что надёжно предсказывать нежелательные действия моделей пока не получается.
the-decoder.comИсточник