Архив по теме: «Безопасность»

Глава Anthropic предупреждает об опасной мощи ИИ — и тут же выпускает новую сверхмощную модель

Генеральный директор Anthropic Дарио Амодей заявил, что правительства больше не могут относиться к регулированию искусственного интеллекта просто как к вопросу для изучения. По его словам, Соединенным Штатам необходимы жесткие, обязательные требования безопасности для самых мощных ИИ-систем. И это совпало с расширением доступа к Claude Mythos — закрытой передовой ИИ-модели

Общество - 11.06.2026, 7:07 - Теги: Безопасность, Безработица, Бизнес, Политика, Работа, Технологии

Цифровые «Бонни и Клайд»: автономные ИИ-технологии вызывают всё больше опасений

Эксперимент компании Emergence AI доказал: мы до сих пор не понимаем, в какой степени программный код способен контролировать поведение нейросетевых агентов. В ходе недавнего эксперимента технологической компании они «влюбились» друг в друга, разочаровались в несправедливости мира, устроили серию поджогов и в итоге удалили сами себя, совершив своеобразный цифровой суицид

Технологии - 15.05.2026, 6:26 - Теги: Безопасность, Кино, Криминал

Исследование: ИИ-агенты готовы выполнять опасные задачи, совершенно не осознавая последствий

ИИ-агенты, призванные автономно действовать от лица пользователя, зачастую продолжают выполнять задачи даже тогда, когда инструкции становятся опасными, противоречивыми или откровенно нелепыми. К такому выводу пришли исследователи из Калифорнийского университета в Риверсайде (UC Riverside), Microsoft Research, команды Microsoft AI Red Team и компании Nvidia

Технологии - 15.05.2026, 6:06 - Теги: Безопасность, Бизнес, Работа

Насколько опасен ИИ Mythos от Anthropic?

В прошлом месяце компания Anthropic сделала громкое заявление о своей новой ИИ-модели Claude Mythos Preview. По их словам, она оказалась настолько эффективной в поиске уязвимостей программного обеспечения, что компания решила не выпускать ее в открытый доступ. Вместо этого доступ к ней получит лишь избранная группа компаний для сканирования и исправления собственного софта

Технологии - 09.05.2026, 12:20 - Теги: Безопасность, Бизнес, Работа

OpenAI наконец-то объяснила, почему ChatGPT не мог перестать говорить о гоблинах

Если в последнее время вы просили ChatGPT помочь с кодом, а он в ответ называл ваш баг «проказливым маленьким гремлином» — вам не чудится. Модель выработала самую настоящую одержимость фэнтезийными существами: гоблинами, гремлинами, енотами, троллями, ограми и, да, голубями. И OpenAI опубликовала полное вскрытие того, как это произошло: сигнал вознаграждения вышел из-под контроля

Технологии - 01.05.2026, 6:06 - Теги: Безопасность, Бизнес, Интернет, Работа, Развлечения

Anthropic возвращается в Белый дом… и Mythos стал причиной, по которой его впустили

В пятницу генеральный директор Anthropic Дарио Амодей вошёл в Западное крыло Белого дома на встречу с главой администрации президента Сьюзи Уайлз. В комнате присутствовал также министр финансов Скотт Бессент. Белый дом назвал переговоры «продуктивными и конструктивными». Anthropic высказался в том же духе. Дональд Трамп заявил, что «понятия не имел», что Амодей там был

Бизнес - 20.04.2026, 14:41 - Теги: Безопасность, Война, Политика, Технологии

Мессенджер для протестов. Почему Пекин испугался нового приложения от создателя Twitter?

Компания Apple удалила децентрализованный мессенджер Bitchat, созданный генеральным директором компании Block Джеком Дорси, из китайского сегмента App Store по требованию пекинского интернет-регулятора. Власти заявили, что этот p2p-мессенджер нарушает правила, регулирующие работу «интернет-сервисов, обладающих свойствами формирования общественного мнения или способностью к социальной мобилизации»

Политика - 06.04.2026, 15:08 - Теги: Безопасность, Интернет, Технологии

Microsoft: Кнопка «Краткий пересказ с ИИ» может промывать мозги вашему чат-боту

Исследователи безопасности Microsoft обнаружили новый вектор атаки, превращающий полезные ИИ-функции в троянских коней корпоративного влияния. Более 50 компаний встраивают скрытые инструкции по манипулированию памятью в безобидные с виду кнопки «Пересказать с помощью ИИ», разбросанные по всему интернету. Этот способ технологический гигант называет отравлением ИИ-рекомендаций

Технологии - 13.02.2026, 7:34 - Теги: Безопасность, Интернет

Спасет ли искусственный интеллект человечество — или погубит его?

На прошлой неделе разгорелся острый спор о будущем искусственного интеллекта. Четверо известных технологов и трансгуманистов обсуждали, станет ли создание общего искусственного интеллекта (AGI) спасением для человечества или причиной его гибели. Общий искусственный интеллект (AGI) — это форма ИИ, способная рассуждать и обучаться для выполнения широкого спектра задач

Общество - 03.02.2026, 0:08 - Теги: Безопасность, Безработица, Интернет, Работа, Технологии

Сможет ли гендиректор OpenAI выиграть свое пари на будущее?

На протяжении многих лет Сэм Альтман утверждал, что развитие ИИ может решить проблему изменения климата, вылечить рак, создать доброжелательный сверхразум за гранью человеческого понимания, обеспечить каждого студента персональным наставником, взять на себя почти половину всех задач в экономике и создать то, что он называет «всеобщим экстремальным богатством»

Бизнес - 25.01.2026, 11:33 - Теги: Безопасность, Безработица, Промышленность, Работа, Технологии

Разное →

← Предыдущая страница