Claude сдал пользовательницу полиции после откровенной беседы
Американка Карли Мишель Геллер из города Бонита-Спрингс использовала чат-бота Claude от компании Anthropic в качестве личного дневника. Женщина делилась с алгоритмом сокровенными мыслями и не подозревала, что ее переписку могут просматривать живые люди. Однажды все закончилось ее задержанием, пишет Futurism.
В конце сентября она написала алгоритму о намерении устроить стрельбу в офисе шерифа округа Ли, а на следующий день добавила, что приобрела новое оружие. Внутренние системы безопасности компании зафиксировали угрозы и автоматически передали сообщения модераторам, а те немедленно обратились в полицию.
Полицейские установили личность женщины и задержали ее в ее собственном доме без какого-либо сопротивления. Официальное обвинение заключается в высказывании письменной угрозы совершения насилия, что по законам штата Флорида считается тяжким преступлением второй степени.
Искусственный интеллект – это мощный инструмент, и, как и любая технология, он может быть использован не по назначению, – прокомментировал шериф округа Ли Кармин Марчено.
Он подчеркнул, что правоохранительные органы воспринимают любые подобные угрозы максимально серьезно, а пользователи цифровых сервисов должны осознавать отсутствие полной анонимности в сети.
Случай во Флориде осветил важную проблему современности, а именно грань между конфиденциальностью пользователя и безопасностью общества. Специалисты отмечают, что разговорный формат чат-ботов создает ложное ощущение уюта. Люди воспринимают искусственный интеллект как нейтрального собеседника, который не способен осуждать или критиковать.
Искусственный интеллект – это не ваш лучший друг. Мы должны помнить, что это технология, – говорит доцент Университета побережья Мексиканского залива Флориды Криссанн Рюле.
Руководитель компании FITECH Иан Марлоу также пояснил, что диалоговый характер алгоритмов заставляет людей забывать о том, что каждое введенное слово постоянно записывается и сохраняется.
Политика использования Anthropic четко запрещает применение Claude для организации насилия или запугивания. Компания оставляет за собой право передавать данные пользователей правоохранительным органам в чрезвычайных ситуациях, когда существует угроза жизни людей.
Подобные прецеденты случались и раньше. Например, в ходе расследования массовой стрельбы в канадском городе Тамблер-Ридж выяснилось, что нападавшая планировала преступление с помощью ChatGPT. Тогда разработчики из OpenAI знали о подозрительных запросах за несколько месяцев до трагедии, но не приняли своевременных мер.
Журналисты издания WINK News отмечают, что теперь технологические компании стараются действовать более решительно, чтобы предотвратить подобные катастрофы. Судебное заседание по делу Карли Мишель Геллер назначено на ноябрь.
- Последние
- Популярные
Новости по дням
6 октября 2026
