Эксперт рассказал, какую угрозу для человечества представляет неуправляемый искусственный интеллект.
В Средневековье человечество жило ожиданием прихода Антихриста и наступлением «конца света», который был предсказан «Откровением Иоанна Богослова», пишет «Российская газета». В те времена было разработано множество схем для определения точной даты сего события и личности того, кто погубит мир. Каждый раз конец эпохи человечества откладывался.
В Новейшей истории угрозы приобрели более сформированный и конкретный наукообразный характер: перенаселение планеты, экологические катастрофы, инопланетное вторжение, астероидное уничтожение мира, генетическое вырождение, ядерная война и глобальное потепление – вот основные причины современного Апокалипсиса. На сегодня все они довольно актуальны и реалистичны. Однако, на первый план выходит новая угроза – искусственный интеллект. Ранее «восстание машин» было предсказано научной фантастикой. В книгах искусственный интеллект либо вытесняет людей, либо уничтожает их, напоминает доктор юридических наук Анатолий Кучерена.
Теория основывается на том, что в результате постоянного совершенствования искусственный интеллект, который уже сейчас превосходит во многом человеческие возможности, выйдет из повиновения. Став неуправляемым, он начнет самосовершенствоваться и развиваться по собственным правилам. В таком случае люди по отношению к нему могут оказаться в качестве примитивных букашек. Если человек ставит цель, то идет к ней всеми известными способами, не обращая внимание на то, сколько букашек при этом он раздавит. Если тех же муравьев необходимо уничтожить, человек это делает даже не задумываясь.
По словам ведущего мирового эксперта в области ИИ Элиезера Юдковского, результатом становления слишком умного искусственного интеллекта станет вымирание человечества. Это очевидный вывод, к которому пришли многие исследователи, пишет он в журнале Time. И вероятность этого практически стопроцентная.
Человечество может столкнуться со множеством сценариев, в ходе которых произойдет катастрофа. Наиболее вероятны несколько из них. Первый – применение искусственного интеллекта в военной сфере. Здесь программы на голову превосходят человеческие возможности. Ни опыт, ни умения в этой сфере не помогут человеку превзойти машину. Аналогично с другими военными наработками. Угроза создания «абсолютного оружия» может привести лишь в новой гонке вооружений, последствия которой могут разрушить мир. Если ИИ отреагирует на ложный сигнал и запустит, например, ядерные ракеты, то последствия будет катастрофическими. Если он выйдет из-под управления, начнет действовать только поему понятным алгоритмам, мир будет уничтожен.
Пример: будучи запрограммированным на победу в каком-либо противостоянии, при определенных условиях, когда на его стороне явный перевес, он может сам развязать войну, посчитав, что победа гарантирована. Вспомним, Кеннеди и Хрущев, имеющие понятия о последствиях и боли войны, смогли остановиться и не перейти «красную черту» во время «карибского кризиса». Это позиция человека, имеющего эмоции. Человеческая натура сдержала лидеров государств и не позволила развязать новую глобальную войну. Искусственный интеллект лишен эмоций и человечности, не ведает страха. Из-за этого он доведет дело до конца.
Еще одна угроза – тотальный контроль над людьми. Не только шпионаж, о котором мы можем говорить уже сейчас, но и манипулирование, управление человеком, его жизнью. На основе того же прогнозирования может произойти навязывание образа жизни, манипулирование информацией, формирование определенных сценариев для развития человечества, привел пример адвокат.
Уже сейчас Штаты работают над созданием ИИ, подчиненного «единственно верному» вектора развития, который работал бы на укрепление и развитие единственной в мире державы. Представьте, к какой глобальной гегемонии могут привести действия такого ИИ.
Один из вариантов – программы смогут выявлять не только преступников, но и потенциально опасных граждан, отсеивая их. Это приведет к тому, что человечество окажется буквально скованно цепями запрограммированных «солдат».
Еще один вариант, хотя и не такой страшный, заключается в обесценивании человеческого труда. Уже сейчас механизмы и программы во многом превосходят даже самых гениальных представителей человечества. В будущем это приведет к колоссальной безработице. Что станет с творцами, учеными, талантливыми людьми? Зачем человеку образование, если он не сможет найти работу? Одно из последствий такого сценария – всеобщая деградация, появление «лишних» людей, возникновение новых конфликтов.
Как можно предупредить угрозу? Очевидно, что человечество не остановится и продолжит развивать ИИ, обучать нейросети. Правительства не дадут отмашку и не запретят исследования в этой сфере, опасаясь, что конкуренты обгонят. Возможно, как-то удастся договориться и регулировать эту сферу. Но вариант маловероятный, а значит времени на раскачку у человечества осталось совсем мало.
Фото: pixabay.com
Роман Трубин