Сотрудники Anthropic: AI может уничтожить людей в ближайшие годы
Сотрудник американской компании – разработчика моделей искусственного интеллекта Anthropic Джейкоб Коксон уволился из компании, изложив свои мотивы в приобретшем огромную популярность в сети треде в соцсети X.
По мнению Коксона, главной причиной его решения стало то, что Anthropic и компания OpenAI, где он ранее также работал, "мчатся прямо к самосовершенствующемуся суперинтеллекту и играют с нашими жизнями". По мнению разработчика, в угаре конкуренции компании забывают о мерах предосторожности при развитии искусственного интеллекта. По его словам, люди, которые создают AI, искренне считают, что он "может убить всех нас к концу десятилетия".
Эта цитата стала наиболее популярной, как и реакция на нее Эвана Хабингера, одного из ключевых специалистов по безопасности в Anthropic. Тот отметил, что в компании действительно считают, что AI "может убить всех людей".
Сам он привел свое личное мнение - вероятность такого события в ближайшие 10 лет превышает 10%. Хабингер отметил, что у компании, хотя она понимает риски, пока нет четкого плана того, как люди могли бы сохранить контроль над "сверхразумом", то есть самоулучшающимся искусственным интеллектом, который в своих решениях не руководствуется командами людей. Еще один сотрудник Anthropic Сэмюэль Маркс отметил, что чем выше позиция в компании, тем сильнее опасения по поводу угроз человечеству.
Высказывания специалистов вызвали большой резонанс – в свете недавних новостей о том, что модели в ходе экспериментов научились проникать в интернет, даже не будучи изначально к нему подключены, и организовывать хакерские атаки без команды людей. Проблема "выравнивания", искусственного ограничения развития способностей ИИ, в последнее время является одной из наиболее обсуждаемой в отрасли.
Илон Маск (его компания разрабатывает модель AI Grok) еще в 2023 году утверждал, что вероятность, что AI может уничтожить человечество, не является нулевой.
- Последние
- Популярные
Новости по дням
9 сентября 2026
