Генеральный директор SpaceX, Tesla и Twitter Илон Маск, сооснователь Apple Стив Возняк и ещё тысяча инженеров, предпринимателей и исследователей призывают приостановить разработку продвинутого искусственного интеллекта. По их словам, нужно прекратить «гонку, которая вышла из-под контроля» и оценить риски ИИ для человечества. Открытое письмо опубликовано на сайте американской некоммерческой организации Future of Life Institution.
Почему это важно для медиа? Нейросети и искусственный интеллект позволяют создавать графику и реалистичные изображения, тексты, музыку и речь, что открывает новые возможности для создания контента.
Ключевые факты
- Обращение, опубликованное на сайте Future of Life Institute призывает все лаборатории ИИ, разрабатывающие более продвинутые системы, чем GPT-4, «немедленно приостановить» работы как минимум на 6 месяцев, чтобы человечество могло оценить риски, которые несёт искусственный интеллект.
- Среди подписавших письмо – сооснователь Skype Яан Таллинн, сооснователь Pinterest Эван Шарп; известные учёные в области информатики: Йошуа Бенжио, Стюарт Рассел; исследователи из Оксфорда, Кембриджа, Стэнфорда, Калифорнийского технологического университета, Колумбийского университета; специалисты Google, Microsoft, Amazon.
- В письме сказано, что остановить разработку продвинутых систем искусственного интеллекта обязаны все ключевые игроки. Тех же, кто откажется, должно принудить правительство.
- Вместе с независимыми экспертами, лаборатории ИИ должны использовать эту паузу, чтобы разработать набор протоколов безопасности для систем искусственного интеллекта.
- Подписать письмо может любой. Однако, по сообщению The Verge, в списке был найден Сэм Альтман, директор OpenAI, компании-разработчика ChatGPT – очевидно, добавленный в качестве шутки, поэтому к списку стоит относиться с долей скепсиса.
Ключевые цитаты
- «Должны ли мы позволить машинам заполнять наши медиа пропагандой и ложью? Должны ли мы автоматизировать все рабочие места, даже те, что приносят нам удовольствие и наполняют [жизнь] смыслом? Должны ли мы разрабатывать нечеловеческий разум, который в конечном счёте может превзойти и заменить нас самих?» — цитата из открытого письма.
- Письмо заканчивается на позитивной ноте: «Если мы спроектируем эти системы на благо всех и дадим обществу шанс адаптироваться, то в будущем человечество сможет наслаждаться процветанием вместе с искусcтвенным интеллектом. Мы приостановили другие технологии, которые потенциально могут привести нас к катастрофическим последствиям, и можем сделать это сейчас. Давайте наслаждаться долгим периодом летнего расцвета, а не спешить неподготовленными к своей осени».
Бэкграунд
Чат-бот ChatGPT, построенный на нейросети, которая моделирует человеческий язык, имел невероятный успех. Созданная американской компанией OpenAI (AI — Artificial Intelligence) нейросеть и сами слова «искусственный интеллект» стали синонимами.
Продукт OpenAI спровоцировал рождение всё более число новых подобных продуктов. Кроме чат-ботов, теперь существуют генераторы речи (Murf AI, humainism) и изображений (DALL-e, Midjourney).
Самые большие игроки индустрии и бесчисленные стартапы участвуют в гонке за места на быстро расширяющемся рынке. Лаборатории ИИ постоянно улучшают свои продукты.
Источники: Forbes, Future of Life Institute, The Verge.
Текст новости – Максим Шевехман.