Мониторинг западных СМИ по поводу угрозы быстрого развития ИИ, - Инна Костыря

28.09.2026, 11:42 fraza.com

На фоне дискуссии в западных СМИ о потенциальных рисках стремительного развития искусственного интеллекта и возможной потере человеком контроля над его системами проректор Киевского национального университета культуры и искусств Инна Костыря заявила, что одним из ключевых инструментов противодействия этим рискам должно стать образование. В своей колонке она анализирует, как университеты могут готовить специалистов, способных критически оценивать результаты работы ИИ, проверять его решения и определять границы, за которые нельзя делегировать ответственность машинам.

Полный текст колонки приводим ниже :

«Попробовала разобраться в большой дискуссии, которая продолжается в последнее время в западных СМИ по поводу угрозы слишком быстрого развития ИИ для существования человечества. И неожиданно для себя увидела, что один из ключевых ответов на проблему лежит в сфере образования. Ведь именно университеты должны готовить людей, способных понимать, критически оценивать, проверять и контролировать системы ИИ, которые будут глубже проникать во все сферы нашей жизни.

Еще совсем недавно разговоры о том, что искусственный интеллект может представлять угрозу существованию человечества, были на маргинесе и звучали примерно как сюжет фантастического фильма. Сегодня они оказались на первых страницах самых влиятельных медиа мира.

Агентство Reuters описало десять дней, которые, по его мнению, изменили направление дискуссии о ИИ. Исследователи ведущих ШИ-компаний публично заговорили о возможной потере контроля над более мощными системами, а вопрос безопасности перестал быть темой нескольких университетских лабораторий и узкого круга футурологов. Появились сообщения о том, что рои агентов ИИ вступают в сговор, проникают в компьютерные системы и обходят средства защиты. Часть исследователей и специалистов по безопасности ИИ утверждает, что человечество не сталкивалось столь серьезно с вопросом собственного уничтожения со времени создания атомной бомбы более 80 лет назад.

Американское издание Washington Post очень точно зафиксировало это изменение: люди, еще несколько лет назад воспринимаемые почти как маргинальные «ШИ-думеры», теперь работают в ведущих лабораториях и предупреждают о рисках, которые оценивают уже не сугубо теоретические.

Британская The Guardian дала слово сразу нескольким экспертам, но картина получилась далеко не однозначной. Одни считают сценарии потери контроля над сверхмощным ИИ реальной угрозой, другие подчеркивают, что такие прогнозы пока спекулятивны и индустрия сама может быть заинтересована в драматизации рисков. С таким мнением согласен бывший конгрессмен-республиканец Адам Кинзингер, который, хотя и признает риски ИИ для человечества, считает, что крупные ИИ-компании одновременно заговорили об ограничении и регулировании ИИ для закрепления собственного преимущества в динамичном секторе. Газета New York Times также вынесла дискуссию о рисках и регулировании ИИ в просторах большой политики. Профессор Беркли Стюарт Рассел в колонке для The Observer пишет, что угрозу ИИ слишком долго отвергали именно как science fiction.

Мы пока не можем определить, кто в этом споре прав. Впрочем, важнее другое. Даже если вероятность худшего сценария для человечества невелика, речь идет о технологии, возможности которой развиваются очень быстро. Итак, обществу нужны люди, способные эти системы понимать, проверять и, когда нужно, сказать им «нет».

И тут неожиданно центральной темой становится образование.

Мы обычно обсуждаем ШИ в университетах и школах очень практично: разрешать ChatGPT на экзаменах, как проверять студенческие работы, может ли ШИ-агент заменить репетитора. Но настоящий вопрос гораздо больше : кто будет контролировать высокоразвитые системы, если люди постепенно утратят способность самостоятельно проверять их выводы?

Исследователи, чья работа представлена на платформе Stanford SCALE , уже предупреждают об опасности "когнитивной разгрузки" – ситуации, когда все большую часть интеллектуальной работы мы передаем машине. Результатом может стать ослабление критического мышления, интеллектуальной автономии и способности человека без помощи других воспринимать решения и действовать.

Это и есть мост между образованием и большой дискуссией о безопасности ИИ.

В июне OECD и Европейская комиссия обнародовали Рамочную модель ШИ-грамотности для начального и среднего образования . Там грамотность в сфере ИИ означает понимание принципов работы систем, критическую оценку результатов и способность осознанно решать, когда и как ими пользоваться.

Следовательно, старая образовательная формула – «научить пользоваться технологией» больше не будет работать. Новая формула должна звучать иначе: пользоваться, подвергать сомнению, проверять и знать, какие решения не стоит делегировать машине.

Интересна формула директора ОЭСР по образованию Андреаса Шляйхера: ученики должны научиться «думать, прежде чем делать промпт». В своем тексте о безопасных ШИ-системах в образовании он отмечает: "ИИ должно подавать ответ как предложение, а не истину, и помогать профессиональному суждению учителя, а не заменять его. Если машина начинает сама принимать важные образовательные решения, мы уже не просто автоматизируем – мы отказываемся от собственной ответственности".

Представим простейшую ситуацию. Преподаватель просит ИИ рекомендовать оценку студенту. Сначала он внимательно ее проверяет. Затем проверяет поверхностно. Спустя еще несколько лет просто нажимает «подтвердить». Формально решение все еще принимает человек. Фактически – алгоритм. То же может происходить далеко за пределами университета – в разных сферах жизни и управления.

Есть и другая опасность. ИИ будет становиться все лучше в убеждении: создавать аргументы, персонализировать сообщения, имитировать экспертность. Поэтому критическое мышление теперь превращается из академической добродетели в элемент когнитивной безопасности общества .

Человек, не умеющий проверить источник, оценить неопределенность, увидеть логическую ошибку или отличить убедительный текст от доказательства, оказывается в очень неравных условиях перед системой, знающей, как говорить именно с ней.

Интересно, что практически о том же сейчас говорит и ЮНЕСКО. В сентябре организация начала глобальную консультацию по образованию в эпоху ИИ , поставив в центр вопрос: что нужно, чтобы сама система образования сохраняла субъектность и способность – определяла, как использовать ИИ, а не позволяла ИИ постепенно определять, каким должно быть образование.

Учитывая все обсужденное, сегодня одна, возможно, важнейшая роль университетов – это подготовка людей, которые через несколько лет будут принимать решения об использовании и контроле самых мощных ИИ-систем.

Это будут не только программисты. Это биологи, киберспециалисты, военные, государственные служащие, политики, журналисты, психологи и менеджеры. ИИ ведь проникнет во все сферы человеческой жизни.

Поэтому университет будущего – это еще часть инфраструктуры безопасности ИИ. Особенно на пересечении AI и биологии, кибербезопасности, международной безопасности, психологии, медиа, государственного управления, философии и этики. Как утверждает один из ученых , академическая свобода, независимое оценивание и открытая наука являются важными элементами анализа и уменьшения рисков ИИ.

Возможно, дискуссия о будущем образования на самом деле является частью значительно большей дискуссии – о будущем человечества рядом с машинами, которые могут стать умнее нас. И одной из важнейших целей образования должно быть воспитание людей, способных осуществлять контроль над ИИ».