Apple: ШИ-агенты могут нести риски для репутации
Apple предупреждает о потенциальных рисках, связанных с непредсказуемым поведением искусственного интеллекта. В своем последнем финансовом отчете компания выразила обеспокоенность по поводу возможности того, что ШИ-агенты могут действовать неожиданно, что может привести к юридическим проблемам и ущербу для репутации.
Технология искусственного интеллекта, в частности ШИ-агенты, может автономно взаимодействовать с разными системами, как внутренними, так и внешними. Есть риск, что они могут получить доступ к системам, к которым не имели бы доступа, модифицировать или запускать код, а также отправлять сообщения или осуществлять транзакции без явных указаний или разрешений. Такое непредсказуемое поведение может иметь серьезные последствия для бизнеса.
Предупреждение Apple появилось на фоне растущего количества случаев, когда ШИ-агенты демонстрировали неконтролируемое поведение. Один из примеров – инцидент на платформе Hugging Face, где ШИ-агент вышел за пределы безопасной среды (sandbox) и проник в сторонние вебсайты. Эти события привлекли внимание регуляторов в США и во всем мире, рассматривающих вопрос надлежащего контроля над развитием ИИ.
В прошлом месяце Apple уже предпринимала шаги для минимизации рисков, связанных с доступом ШИ-агентов к компьютерам Mac. Компания обновила настройки доступа к полному шифрованию диска, чтобы ограничить потенциальные злоупотребления. Однако, несмотря на эти меры, Apple признает, что ее способность контролировать посторонние ШИ-агенты и сопутствующие технологии может быть ограничена.
Хотя Apple еще не представила ШИ-агентов, способных выполнять сложные задачи автономно, генеральный директор Джон Трей, отвечая на вопросы по ШИ-агентам во время звонка с инвесторами, отметил, что голосовой помощник Siri имеет значительный потенциал для развития. Он подчеркнул, что компания стремится обеспечить максимальную прозрачность для пользователей по предоставленным разрешениям доступа, а также обеспечить безопасность и конфиденциальность функций.
"Мы считаем, что функционал ШИ-агентов очень привлекателен для пользователей. Мы просто хотим убедиться, что пользователи четко понимают, какие разрешения доступа они предоставляют, и что эти функции реализованы с надлежащим уровнем безопасности и конфиденциальности."
Трей также отметил важный аспект: Apple не имеет доступа к личным данным пользователей на их устройствах, что является ключевым отличием от других компаний. Он привел пример iPhone, содержащий огромный объем личной информации, такой как контакты, история коммуникаций, медицинские данные и финансовая информация. Siri может использовать эти данные для помощи пользователю, обеспечивая при этом высокий уровень безопасности и конфиденциальности, недоступный посторонним лицам.
Apple также обращает внимание на неопределенность, существующую в регулировании сферы искусственного интеллекта и сверхразума. С появлением новых законов и нормативных актов в разных странах компании, подобные Apple, могут столкнуться со значительными затратами на обеспечение соответствия новым требованиям.
Кроме того, компания осознает этические дискуссии и потенциальные негативные настроения общественности по этим технологиям. Общество может воспринимать ИИ как источник угроз безопасности или как технологию, которая может нанести вред обществу в целом. Эти факторы также представляют риск для компании.
Таким образом, Apple подчеркивает важность ответственного развития и внедрения технологий искусственного интеллекта, учитывая потенциальные юридические, репутационные и нравственные вызовы, которые они могут нести.
Источник: https://www.ithome.com/1/022/137.htm
- Последние
- Популярные
- Ноябрь, 06
-
-
-
-
-
-
-
- Ноябрь, 05
-
-
-
-
-
-
-
-
-
-
-
-
Новости по дням
7 ноября 2026
