ИИ знает больше, чем кажется: как вы собственноручно отдаёте чат-ботам корпоративные секреты
Проанализировав запросы к искусственному интеллекту, специалисты выявили тревожную тенденцию среди пользователей. В частности, массовые загрузки в чат-боты конфиденциальных документов и личных данных.
Детали
Руководитель отдела анализа и аналитики данных клиентов в Tele2 Инга Рудинскайте говорит, что наибольший риск несут запросы к искусственному интеллекту, в которых пользователи предоставляют большие массивы, часто конфиденциальной информации, чтобы получить нужный ответ.
При создании выборки специалисты натолкнулись на программный код, клиентские базы и внутреннюю документацию предприятий.
Важно понимать, что такая проблема начинается с бытовой привычки. Когда люди стремятся быстро сократить текст или отредактировать документ и без лишних раздумий загружают в систему весь файл. В результате вместе с рабочим заданием в чат-бот могут попасть данные, которые не должны выходить за пределы компании или личного архива.
Эксперты подчеркивают, что утечки данных угрожают не только паролям или данным банковских карт. Опасными могут быть и обычные рабочие письма или черновики договоров, в которых есть детали переговоров и ценовые условия. Отдельно такие документы могут казаться несущественными, но вместе они складывают чёткую картину об организации или человеке.
Инга Рудинскайте объясняет, что при работе с искусственным интеллектом в систему часто попадают имена, номера телефонов, адреса и финансовые данные, хотя для самой задачи они не нужны.
«Письмо клиента, проект договора или внутренний документ на первый взгляд могут казаться простым текстом. Однако они часто содержат информацию о клиентах, партнёрах, ценах или условиях переговоров, которую не следует разглашать», — объясняет она.
Как понять, стоит ли делиться информацией
Перед загрузкой материалов в чат-бот специалисты советуют спросить себя — будете ли вы спокойны, если эта информация окажется в открытом доступе? Если ответ "нет", тогда делиться такими данными не стоит.
«Спросите себя, чувствовали бы вы себя комфортно, если бы эта информация неожиданно стала публичной. Если ответ "нет", то вам не следует делиться ею с искусственным интеллектом», — говорит эксперт.
Что делать перед работой с ИИ?
Прежде всего эксперты в этой области советуют анонимизировать документы перед обработкой. Для этого достаточно:
В таком виде искусственный интеллект может выполнить задачу без лишнего раскрытия чувствительной информации.
«Раньше мы сосредотачивались на том, как защитить свои устройства от вирусов или мошенников. Сейчас не менее важно задуматься о том, какую информацию мы сами передаём искусственному интеллекту. Часто достаточно анонимизировать документ — написать "Клиент А" или "Компания Х" вместо настоящих имён и удалить конфиденциальные данные. Искусственный интеллект всё ещё сможет помочь выполнить задачу, но риск будет значительно меньше», — объясняет И. Рудинскайте.
Ранее мы рассказывали, что в ЕС будут действовать миллионные штрафы за сокрытие контента, созданного искусственным интеллектом. Теперь любые цифровые продуктовые решения или медиафайлы, сгенерированные нейросетями, подлежат обязательной маркировке. За попытки скрыть факт использования алгоритмов разработчикам грозят колоссальные финансовые санкции.
- Последние
- Популярные
Новости по дням
17 августа 2026
