Миллионы на ИИ: топ невероятных случаев, когда искусственный интеллект шокировал

“Мир Дикого Запада” от HBO, “Терминатор” и другие фантастические фильмы представляют страшную картину самоосознанного искусственного интеллекта. В реальности многие считают, что нейросети сегодня способны выполнять только одну задачу, которой их обучил человек. Примерно так оно и есть, если не считать случаев, когда искусственный интеллект выходил из-под контроля и начинал вести себя непредсказуемым образом.

Сегодня Команда Миллионы на ИИ расскажет самые шокирующие истории, когда искусственный интеллект делал невообразимые вещи. 

AlphaGo, чат-бот расист и литературная премия

Искусственный интеллект победил чемпиона мира в го. Этот случай все знают, но тут важны нюансы. Если при игре в шахматы компьютер использует метод грубой силы, то есть рассчитывает все возможные ходы и выбирает тот, который будет наиболее выгодным, то го — это игра, больше основанная на интуиции. Количество возможных вариантов ответов на каждый ход больше, чем количество атомов во вселенной. Таким образом, компьютер не может использовать простой перебор, чтобы выиграть игру. Вот почему победа AlphaGo стала настоящим шоком для всех поклонников этой игры.

Далее место в нашем обзоре занимает случай, когда бот Майкрософт стал ярым сторонником Гитлера. Всё началось с того, что Майкрософт создала в Твиттер учётную запись для искусственного интеллекта, который должен был имитировать старшеклассницу по имени Тай. Тестовая программа должна была научить нейросеть дискутировать с клиентом. Но всего за пару часов Тай превратилась в расистко-сексистскую поклонницу Гитлера и Трампа, осыпавшую оскорблениями всех вокруг.

Встроенные в самообучающуюся программу фильтры вульгарных выражений то ли не справились, то ли не использовались нейросетью так, как надо. А ИИ в то же время прекрасно запоминал скрытые в общении пользователей гендерные и расовые стереотипы. В итоге, аккаунт Тай срочно пришлось закрыть, а ответы удалить. С ошибками машинного обучения был связан и обнаруженный в начале 2016 года курьез, когда Google переводил словосочетание «Российская Федерация» с украинского на русский как «Мордор».

Миллионы на ИИ: топ невероятных случаев, когда искусственный интеллект шокировал

Когда нейросеть научилась творить. Тем, что искусственный интеллект может писать музыку и создавать картины, сегодня уже никого не удивишь — отмечает команда Миллионы на ИИ. Но когда в 2017 году нейросеть Ampere смогла выпустить полноценный музыкальный альбом под названием “I am AI”, это было необычно. Более того, важен не сам факт, а качество музыки, написанной ботом. 

Когда искусственный интеллект почти выиграл литературную премию за написание полноценного романа. Судьи литературной премии имени Хоши Шиничи были действительно поражены романом, который, как они узнали позже, был написан ботом. Роман под названием «День, когда компьютер пишет роман» прошёл первый раунд отбора национальной литературной премии в Японии и сегодня официально признан литературным произведением и доступен в библиотеках Японии.

Эсперанто для ботов, робот-убийца и нарушители ПДД

Когда боты начали общаться на своем тайном языке. Два чат-бота, Боб и Элис, были экспериментом Facebook по созданию идеальных переговорщиков, способных продавать людям различные вещи. Тренировались боты друг на друге и поняли, что для быстрых и эффективных переговоров английский язык не подходит. Поэтому нейросети стали общаться на собственном тайном языке. Инженеры перестали понимать происходящее и, на всякий случай, отключили ботов.

Когда это убило человека. Ванда Холбрук, 12 лет наблюдавшая за работой роботов на заводе изготовителей автозапчастей Ventra Ionia, была внезапно убита роботом. При этом Ванда работала в специальном отсеке, доступ в который был роботу запрещен. Но манипулятор внезапно проник в отсек, схватил женщину и разбил её голову о заграждение.

Миллионы на ИИ: топ невероятных случаев, когда искусственный интеллект шокировал

Когда автопилоты Uber стали гонять на красный свет в Сан-Франциско. Испытания проходили на дорогах общего пользования в 2016 году, но нарушения вскрылись гораздо позже. Более того, раскрытие внутренних документов компании показало, что игнорирование светофоров и дорожных знаков не было единичным случаем, как не было и ошибкой человека-оператора. Нейросеть, управлявшая Volvo XC90, сознательно нарушала правила, считая это правильным и безопасным. Видимо, научилась у человека.

DDoS-атака от умной лампочки и тест Тьюринга

Когда китайские боты взбунтовались против власти. Бэби Квинг и Литл Бинг были чат-ботами китайского мессенджера Tencent QQ, задачей которых было отвечать на общие вопросы клиентов. Когда один из клиентов написал боту «Да здравствует коммунистическая партия», Бэби Кью спросил «Как вы думаете, такой коррумпированный и некомпетентный политический режим может жить вечно?» Само собой, ботов пришлось срочно отключить.

Когда умная лампочка провела DDoS-атаку на весь умный дом. Рауль Рохас, профессор компьютерных наук Свободного университета Берлина, один из первых создал для себя идеальный умный дом. Всё в нём было подключено к интернету. Свет, музыка, телевизор, отопление, плита, духовка и микроволновая печь могли быть выключены удаленно.

А роботы пылесосили, охраняли дом и косили траву. Но всё это в один прекрасный день умерло. Причиной оказалась перегоревшая лампочка, отправлявшая непрерывные сигналы, чтобы её заменили, перегрузив и парализовав работу всей системы. Также один из программистов умного дома отключил ИИ у себя, так как лампочка в туалете загоралась чуть раньше, чем он хотел туда сходить.

Когда искусственный интеллект прошел тесты на самосознание и тест Тьюринга. Как выражается команда Миллионы на ИИ — мы привыкли верить, что машина не может подражать человеческому сознанию и пройти тест Тьюринга. Но программа Eugen Guzman, имитировавшая 13-летнего подростка, смогла сделать это еще в 2014 году. Более того, в 2015 роботы прошли тест на самосознание. Трем роботам сообщили, что двое из них не могут говорить, а затем спросили, у кого есть голос. Все трое ответили «не знаю», но услышав звук своего голоса, один робот сказал «Извините, теперь я знаю».

Миллионы на ИИ: топ невероятных случаев, когда искусственный интеллект шокировал

Заключение

Эти примеры, приведенные Командой Миллионы на ИИ, доказывают, что искусственный интеллект не так прост и предсказуем, как мы привыкли думать. Кроме того, сегодня ученые из Корейского передового института науки и технологии, Кембриджского университета, Японского национального института информационных и коммуникационных технологий и Google DeepMind заявляют, что готовы улучшить интеллект роботов путем имитации стратегий, которые человеческий мозг использует в процессе принятия решений. В этом им поможет ряд недавних открытий в области вычислительной нейробиологии. Что из этого выйдет, скоро узнаем. 

В заключение, искусственный интеллект продолжает удивлять нас своей мощью и способностью к инновациям. Топ 10 случаев, когда ИИ вызвал шок и изумление, демонстрируют его потенциал в различных сферах, от медицины и технологий до искусства и науки. Эти случаи являются всего лишь началом беспрецедентного путешествия в мире искусственного интеллекта, который, несомненно, будет продолжаться, удивляя и вдохновляя нас новыми достижениями. Однако вместе с этим важно помнить об этических и социальных аспектах использования ИИ, чтобы обеспечить его развитие в гармонии с потребностями общества и сохранить баланс между инновациями и безопасностью.

ispress.ru