"Может быть опасен для людей". Маск и 1000 лидеров IT призвали приостановить разработку ИИ
Илон Маск (Фото: EPA)

Гендиректор SpaceX, Tesla и Twitter Илон Маск, специалисты по искусственному интеллекту и лидеры отрасли призвали к шестимесячной паузе в разработке систем, более мощных, чем недавно запущенный OpenAI GPT-4. Об этом говорится в открытом письме, где упоминаются потенциальные риски для общества и человечества.

Присоединяйтесь к нам Facebook и принимайте участие в дискуссиях

В письме, выпущенном некоммерческим Институтом будущего жизни, которое подписали более 1000 человек, содержится призыв приостановить разработку продвинутого ИИ до тех пор, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких проектов.

"Системы искусственного интеллекта с интеллектом, конкурирующим с человеком, могут представлять серьезную опасность для общества и человечества, как показали обширные исследования и признано ведущими лабораториями искусственного интеллекта", – говорится в письме.

Также там подробно описаны потенциальные риски для общества и цивилизации со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений, а также содержится призыв к разработчикам работать с политиками над управлением и регулирующими органами.

"Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски управляемыми", – говорится в письме.

  • Ранее в марте OpenAI, поддерживаемая Microsoft, представила четвертую итерацию своей программы искусственного интеллекта GPT (Generative Pre-trained Transformer), которая поразила пользователей широким спектром приложений, от вовлечения пользователей в человеческую беседу до сочинения песен и обобщения длинных документов.
  • На этой неделе служба Европол присоединилась к выражениям этических и юридических опасений по поводу передового ИИ, такого как ChatGPT, предупредив о потенциальном неправомерном использовании системы в попытках фишинга, дезинформации и киберпреступности.

Читайте также: В GitHub добавят ИИ GPT-4. Он будет писать и исправлять код