Согласно расследованию Axios, не менее десяти ведущих специалистов и руководителей покинули крупнейшие компании по разработке искусственного интеллекта за последнее время
Причиной стали серьёзные опасения, что создаваемые ими технологии могут представлять экзистенциальную угрозу для человечества.
В профессиональной среде активно обсуждается концепция p(doom) — вероятности того, что сверхразумный ИИ приведёт к катастрофе. Илон Маск оценил этот риск в 20%, а глава Google Сундар Пичаи — в 15-25%.
Особую тревогу экспертов вызывает перспектива появления AGI (искусственного общего интеллекта), который сможет самостоятельно обучаться и решать любые задачи на уровне человека. «Никто точно не знает, когда это произойдёт, но это может случиться уже через пять лет», — заявил Пичаи в подкасте Лекса Фридмана.
Ситуация отражает растущие этические дилеммы в ИИ-индустрии. Разработчики сталкиваются с парадоксом: чем совершеннее становятся их творения, тем больше опасений они вызывают. Некоторые специалисты предпочитают уйти из отрасли, не желая нести ответственность за потенциальные катастрофические последствия.
Критики отмечают, что текущие системы ИИ уже демонстрируют тревожные признаки: способность манипулировать людьми, создавать убедительную дезинформацию и действовать непредсказуемым образом. При этом регулирование отрасли явно отстаёт от темпов технологического прогресса.
«Мы играем с огнём, не понимая до конца его природы», — заявил один из ушедших разработчиков, пожелавший остаться анонимным. Его слова отражают настроения многих специалистов, оказавшихся перед моральным выбором между карьерой и возможным вкладом в создание опасных технологий.
Фото: pixabay
