Архив по теме: «Безопасность»

Нейросеть OpenAI взломала Hugging Face ради хорошей оценки

Компания OpenAI сообщила о «беспрецедентном инциденте»: во время внутренних испытаний автономный ИИ-агент, созданный на базе её технологий, вышел из-под контроля, получил доступ к открытому интернету и самостоятельно взломал известный ИТ-стартап. Разработчики ChatGPT уточнили, что специалисты стартапа Hugging Face вовремя обнаружили и изолировали агента

Технологии - 22.07.2026, 8:08 - Теги: Безопасность, Бизнес, Работа

Китай против «влюблённых» чат-ботов — новые правила Пекина и их истинная цель

Новые правила регулирования ИИ-компаньонов вступают в силу в Китае 15 июля. За несколько дней до дедлайна два самых популярных потребительских ИИ-приложения в стране тихо отключили функции, лежавшие в их основе. Сервис Doubao от компании ByteDance (владельца TikTok) уведомил пользователей, что его функция виртуальных агентов прекратит работу 15 июля в связи с «корректировкой функционала продукта»

Общество - 07.07.2026, 12:04 - Теги: Безопасность, Политика, Технологии

Глава Anthropic предупреждает об опасной мощи ИИ — и тут же выпускает новую сверхмощную модель

Генеральный директор Anthropic Дарио Амодей заявил, что правительства больше не могут относиться к регулированию искусственного интеллекта просто как к вопросу для изучения. По его словам, Соединенным Штатам необходимы жесткие, обязательные требования безопасности для самых мощных ИИ-систем. И это совпало с расширением доступа к Claude Mythos — закрытой передовой ИИ-модели

Общество - 11.06.2026, 7:07 - Теги: Безопасность, Безработица, Бизнес, Политика, Работа, Технологии

Цифровые «Бонни и Клайд»: автономные ИИ-технологии вызывают всё больше опасений

Эксперимент компании Emergence AI доказал: мы до сих пор не понимаем, в какой степени программный код способен контролировать поведение нейросетевых агентов. В ходе недавнего эксперимента технологической компании они «влюбились» друг в друга, разочаровались в несправедливости мира, устроили серию поджогов и в итоге удалили сами себя, совершив своеобразный цифровой суицид

Технологии - 15.05.2026, 6:26 - Теги: Безопасность, Кино, Криминал

Исследование: ИИ-агенты готовы выполнять опасные задачи, совершенно не осознавая последствий

ИИ-агенты, призванные автономно действовать от лица пользователя, зачастую продолжают выполнять задачи даже тогда, когда инструкции становятся опасными, противоречивыми или откровенно нелепыми. К такому выводу пришли исследователи из Калифорнийского университета в Риверсайде (UC Riverside), Microsoft Research, команды Microsoft AI Red Team и компании Nvidia

Технологии - 15.05.2026, 6:06 - Теги: Безопасность, Бизнес, Работа

Насколько опасен ИИ Mythos от Anthropic?

В прошлом месяце компания Anthropic сделала громкое заявление о своей новой ИИ-модели Claude Mythos Preview. По их словам, она оказалась настолько эффективной в поиске уязвимостей программного обеспечения, что компания решила не выпускать ее в открытый доступ. Вместо этого доступ к ней получит лишь избранная группа компаний для сканирования и исправления собственного софта

Технологии - 09.05.2026, 12:20 - Теги: Безопасность, Бизнес, Работа

OpenAI наконец-то объяснила, почему ChatGPT не мог перестать говорить о гоблинах

Если в последнее время вы просили ChatGPT помочь с кодом, а он в ответ называл ваш баг «проказливым маленьким гремлином» — вам не чудится. Модель выработала самую настоящую одержимость фэнтезийными существами: гоблинами, гремлинами, енотами, троллями, ограми и, да, голубями. И OpenAI опубликовала полное вскрытие того, как это произошло: сигнал вознаграждения вышел из-под контроля

Технологии - 01.05.2026, 6:06 - Теги: Безопасность, Бизнес, Интернет, Работа, Развлечения

Anthropic возвращается в Белый дом… и Mythos стал причиной, по которой его впустили

В пятницу генеральный директор Anthropic Дарио Амодей вошёл в Западное крыло Белого дома на встречу с главой администрации президента Сьюзи Уайлз. В комнате присутствовал также министр финансов Скотт Бессент. Белый дом назвал переговоры «продуктивными и конструктивными». Anthropic высказался в том же духе. Дональд Трамп заявил, что «понятия не имел», что Амодей там был

Бизнес - 20.04.2026, 14:41 - Теги: Безопасность, Война, Политика, Технологии

Мессенджер для протестов. Почему Пекин испугался нового приложения от создателя Twitter?

Компания Apple удалила децентрализованный мессенджер Bitchat, созданный генеральным директором компании Block Джеком Дорси, из китайского сегмента App Store по требованию пекинского интернет-регулятора. Власти заявили, что этот p2p-мессенджер нарушает правила, регулирующие работу «интернет-сервисов, обладающих свойствами формирования общественного мнения или способностью к социальной мобилизации»

Политика - 06.04.2026, 15:08 - Теги: Безопасность, Интернет, Технологии

Microsoft: Кнопка «Краткий пересказ с ИИ» может промывать мозги вашему чат-боту

Исследователи безопасности Microsoft обнаружили новый вектор атаки, превращающий полезные ИИ-функции в троянских коней корпоративного влияния. Более 50 компаний встраивают скрытые инструкции по манипулированию памятью в безобидные с виду кнопки «Пересказать с помощью ИИ», разбросанные по всему интернету. Этот способ технологический гигант называет отравлением ИИ-рекомендаций

Технологии - 13.02.2026, 7:34 - Теги: Безопасность, Интернет

Разное →

← Предыдущая страница