Уведомление: Anthropic пресекла попытки использовать её модель для работ над биологическим оружием

Компания «Энтропик» (Anthropic) сообщила, что выявила и пресекла попытки использовать её модель для «вредоносной деятельности», которая могла поддержать разработку биологического оружия, - согласно последнему отчёту компании по угрозам. Эти выводы - последние в растущей серии предупреждений исследователей и представителей отрасли о потенциальных рисках передовых технологий.

Что выявил отчёт

Отчёт выделил пять кейсов, в которых акторы использовали модели компании способами, которые могли поддержать разработку биологического оружия, и отметил шесть случаев, когда технология применялась для разработки программного обеспечения для обычного вооружения, включая огнестрельное оружие, ракеты и боевые дроны. За последние восемь месяцев случаи, вызвавшие озабоченность, варьировались от поддельных приложений для знакомств и мошенничества с гостиничным Wi-Fi до систем слежки для выявления диссидентов. Злоупотребления моделями компании были пресечены в период с декабря 2025 года по август 2026 года, говорится в отчёте, а компания обвинила некоторые зарубежные фирмы в попытках воспроизвести её возможности.

Более широкие предупреждения отрасли

Подобные отчёты стали регулярной практикой в отрасли, поскольку компании стремятся показать, как они выявляют и пресекают злоупотребления. Google на этой неделе написала, что некий человек пытался использовать её инструмент для получения пошагового технического руководства по синтезу вооружённых биологических агентов. Предупреждения побудили к действиям: сенатор США потребовал паузы в передовых разработках и запрета сверхинтеллекта, тогда как президент США пока отвергает такие опасения. Главный научный сотрудник конкурирующей фирмы призвал к добровольным замедлениям до введения защитных мер, а открытое письмо призвало к новому многостороннему договору о безопасной разработке.

Защитные меры и дальнейшие шаги

«Энтропик» заявила, что злоупотребления в биологической сфере - один из самых серьёзных рисков передовых моделей и что без правильных защитных мер такие возможности могут иметь катастрофические последствия. Компания отметила, что та же информация, которая может быть использована для разработки биологического оружия, может также послужить для создания вакцины или лекарства. Компания сообщила, что включила свои выводы в свои процессы, чтобы лучше предотвращать, выявлять и пресекать такую деятельность, и поделилась разведданными с властями и отраслевыми партнёрами, где это уместно.

• Пять кейсов злоупотреблений, которые могли поддержать разработку биологического оружия
• Шесть случаев разработки программного обеспечения для обычного вооружения
• Злоупотребления пресечены в период с декабря 2025 года по август 2026 года
• Выводы включены в процессы компании и переданы властям
• Часть более широкой волны отраслевых предупреждений и призывов к защитным мерам

Реквизиты компании

«Энтропик» (Anthropic) - компания в области безопасности и исследований искусственного интеллекта. Запросы СМИ обрабатывает коммуникационная команда компании. Сайт: anthropic.com.