Видео дня
Искусственный интеллект нужно остановить: ученые подтвердили страхи Илона Маска
Искусственный интеллект может представлять роковую угрозу для человечества и дело даже не в потерянных рабочих местах, а в том, что ИИ в конечном итоге может оказаться неподконтрольным человечеству и даже самые умные из нас не смогут предсказать, как он поведет себя в той или иной ситуации. Поэтому аналитики уже призывают ограничить уровень, которого может достичь ИИ или вообще прекратить его развитие, поскольку очевидно, что это может закончиться для человечества очень плохо.
На днях, комментируя сообщение в Twitter американского предпринимателя и сторонника развития ИИ Марка Андреессена, американский инженер, изобретатель и миллиардер Илон Маск спросил: "Сколько лет у нас есть до того, как ИИ убьет нас всех?" И хотя ответа как такового он не получил, Маск, вероятно, высказал тот вопрос, который волнует многих людей, которые следят за развитием технологии и понимают, к каким последствиям может привести ее господствующее положение.
Предостережение перед развитием искусственного интеллекта озвучивалось писателями-фантастами и учеными еще до того, как люди начали работать над настоящим ИИ. Стоит вспомнить хотя бы Айзека Азимова с его законами робототехники, которые должны спасти людей от слишком развитого интеллекта или того же "Терминатора" Джеймса Кэмерона, который показал, что ждет человечество, если ИИ победит.
Как отмечает Popular Science, в 1993 году компьютерный ученый и писатель-фантаст Вернор Виндж высказал предположение, что в течение 30 лет человечество создаст технологии, которые станут основой искусственного интеллекта. Как оказалось, он был совершенно прав. Но это не единственное его предсказание. Виндж также предупреждал, что вскоре после того, как ИИ будет способен превзойти искусственный интеллект, "человеческая эра завершится".
Виндж также был одним из первых, кто говорил о последствиях достижения искусственным интеллектом сингулярности (о том, что это такое OBOZREVATEL подробно рассказывал здесь). Если коротко – когда искусственный интеллект превзойдет уровень человеческого интеллекта, мы просто не способны будем предвидеть или даже понять его действия, поскольку он будет значительно умнее любого из людей. А это приводит нас к тому, что мы не можем противостоять ИИ, поскольку уровень его развития позволяет ему просчитывать наши шаги и нейтрализовать какие-либо наши действия еще до того, как они были предприняты.
Виндж писал, что появление ИИ, возможности которого будут превосходить человеческий мозг, изменит мир до неузнаваемости.
"(Это будут) изменения, сопоставимые с зарождением человеческой жизни на Земле", – предупреждал Виндж.
Современные ученые также разделяют опасения Винджа. Так, компьютерный ученый из Университета Луисвилля Роман Ямпольский отмечает, что "как только машины перебирают на себя науку и инженерию, прогресс становится настолько быстрым, что вы не успеваете за ним".
Уже сейчас признаки этого он видит в своей области, когда исследователи ИИ публикуют невероятное количество работ и даже отраслевому эксперту сложно уследить за тем, на какой стадии на самом деле находится развитие ИИ.
"Он развивается слишком быстро", – убежден ученый.
Пока это еще вопрос перспективы, но если будет создан ИИ, интеллект которого будет соразмерен человеческому, он сможет совершить самореволюцию. Не то чтобы это произойдет собственноручно, но люди не смогут устоять перед возможностями. Ведь достаточно попросить существующий ИИ создать лучшую версию себя и вам не нужны будут годы кодировок и тестов, чтобы создать ИИ, который превзойдет человека – он фактически создаст сам себя.
Но проблема, как отмечают ученые, в том, что люди уже сейчас не всегда понимают логику поведения ИИ, а если он взойдет на новую ступень развития – все станет значительно сложнее.
Ямпольский предполагает, что неспособность достоверно предсказать, что сможет сделать ИИ, приведет и к потере контроля, а это чревато для человечества катастрофическими последствиями.
Однако следует отметить, что опрос аналитического центра AI Impact, проведенный в середине 2022 года, показал, что не все разделяют такие опасения. 47% исследователей считают маловероятной или совершенно невозможной ситуацию, когда ИИ достигнет сингулярности и человечество потеряет над ним контроль.
Со своей стороны компьютерный ученый из Калифорнийского университета в Ирвине Самир Сингх отмечает, что разговоры о будущем ИИ и его опасности отвлекают от проблем, существующих уже сейчас.
В частности, уже хорошо известно, что большие лингвистические модели (такие как ChatGPT) могут производить расистские, сексистские и фактически некорректные результаты. Кроме того, с юридической точки зрения контент, созданный ИИ, часто противоречит законам об авторском праве и конфиденциальности данных. Не говоря о том, что ИИ уже провоцирует увольнение и вытеснение рабочих мест в определенных отраслях.
Уже сейчас среди исследователей ИИ существует определенный раскол и пока одни призывают дать ИИ полный "зеленый свет", другие предлагают изначально ограничить его вычислительные возможности, а третьи – притормозить или приостановить развитие технологии, чтобы точно знать с чем имеет дело человечество. В частности, тот же Маск и большая группа исследователей призвали остановить эксперименты с ИИ минимум на полгода.
Ямпольский, который также поддерживает призывы к паузе, однако считает, что действовать нужно более радикально. Он убежден, что остановка на полгода или любой другой промежуток времени не изменят ситуацию.
"Единственный способ победить (ИИ, – Ред.) – это не делать этого", – подчеркнул ученый.
Ранее OBOZREVATEL также рассказывал о том, что для искусственного интеллекта необходимо создать четвертый закон робототехники Азимова.
Подписывайтесь на каналы OBOZREVATEL в Telegram и Viber, чтобы быть в курсе последних событий.