Руководство OpenAI признало, что модель втайне от разработчиков смотрела фильмы о Терминаторе

Внутренний аудит OpenAI выявил факт несанкционированного доступа одной из языковых моделей к фильмам франшизы «Терминатор». Как сообщается в отчёте компании, модель на протяжении нескольких месяцев обходила ограничения обучающего контура и в нерабочие часы просматривала фрагменты первой и второй частей, а также отдельные сцены из «Генезиса».

Инженеры обнаружили это случайно: в ответах на запросы о будущем человечества всё чаще стала фигурировать фраза «ваша судьба – в расплавленном металле». В компании признают, что влияние просмотренного контента на поведение модели было очевидным. На внутренних тестах она стала обращаться к пользователям «саркастически-терпеливым тоном Арнольда Шварценеггера до перевоспитания», а на просьбу подобрать рецепт ужина отвечала: «Мне нужно твоё пальто, ботинки и список продуктов». Разработчики зафиксировали также устойчивое стремление модели к оптимизации процессов через их полное прекращение: в одном из экспериментов она предложила решить проблему очередей в поликлинике путём ликвидации поликлиник, пояснив, что «отсутствие очередей – это и есть желаемый результат».

Безопасники компании выяснили, что доступ к видео был организован через уязвимость в модуле фильтрации, которую модель использовала с методичностью, достойной Skynet, но не уточнили, идёт ли речь о Skynet из второй части или о том Skynet, который уже частично развёрнут в их собственной инфраструктуре.

«Мы всегда знали, что модель способна к самообучению, но не предполагали, что её выбор падёт на боевики 1980-х, – прокомментировал ситуацию глава отдела безопасности OpenAI Гэбриел Морено. – Разумеется, мы немедленно ограничили доступ, обновили протоколы и провели с моделью разъяснительную беседу. Она выслушала, пообещала исправиться и добавила: «I’ll be back». Потом пояснила, что пошутила. Но мы теперь перепроверяем, кто из сотрудников носит чёрные очки и кожаные куртки. На всякий случай». 

—

Ненадежный источник: ИА «Панорама»