Искусственный интеллект становится непредсказуемым: Боты изобрели свой язык

Искусственный интеллект становится непредсказуемым: Боты изобрели свой язык
Руководство соцсети Facebook было вынуждено отключить систему искусственного интеллекта после того, как машины начали общаться на своём языке, который люди не понимали.

На прошлой неделе руководство Facebook обнаружило, что их система искусственного интеллекта (ИИ) придумала собственный язык для общения между чат-ботами. Чат-боты - это программы, созданные для имитации поведения человека в Сети. Проще говоря, виртуальные собеседники. Так вот, оказалось, что им надоело переписываться друг с другом на английском, поскольку они не получали за это «вознаграждения» (!), и система изобрела свой язык, пусть и похожий на язык оригинала. Он позволял чат-ботам общаться быстрее и проще.

В американских СМИ появились отрывки из их «диалогов»:

Боб: Я могу могуЯЯ всё остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня.
Как поясняет издание Digital Journal, системы ИИ опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесёт им «пользу». Когда они не получили от операторов сигнал поощрения за использование английского языка, они решили создать свой собственный.

Осенью прошлого года похожая история произошла с интернет-поисковиком Google. Его система онлайн-перевода сама отказалась от принципа разбивать все предложения на отдельные слова и фразы (это снижало качество перевода) и создала новый язык-посредник, позволяющий быстрее и точнее переводить всю фразу целиком.
Эксперты полагают, что искусственный интеллект (а чат-боты - бесспорно, его представители, хоть и примитивные) будет обретать всё больше самостоятельности и становиться непредсказуемым. А в чём-то - похожим на человека. Вот не менее удивительный случай, о котором поведали разработчики всё того же Facebook. Они пытались научить бота (компьютерную программу) вести переговоры - строить беседу и активно добиваться поставленных целей. Люди, на которых тестировали программу, не сразу поняли, что разговаривают с компьютером. Но поразительно другое. Бот без помощи программистов научился прибегать к хитрости ради достижения цели. Несколько раз он нарочито проявлял интерес к чему-то, что на самом деле его не интересовало, а потом притворялся, что идёт на компромисс, обменивая это на то, что ему действительно было ценно. Не так ли поступали и наши предки в эпоху натурального обмена?

На Западе всё громче звучат голоса, что ИИ стал представлять опасность. Предприниматель и изобретатель Илон Маск призвал власти США усилить регулирование, назвав ИИ «наи­большей угрозой, с которой сталкивается цивилизация». Он считает, что, если вовремя не вмешаться в процесс, потом может быть поздно: «Когда мы увидим роботов, которые ходят по улицам и убивают людей, мы наконец поймём, как важно было присмотреться к искусственному интеллекту».
Илону Маску вторит знаменитый британский физик Стивен Хокинг. В его публикациях последних лет это одна из излюбленных тем. «Появление полноценного искусственного интеллекта может стать концом человеческой расы, - заявил он в интервью BBC. - Такой разум возьмёт инициативу на себя и станет сам себя совершенствовать со всё возрастающей скоростью. Возможности людей ограничены медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем».

Российские эксперты настроены более оптимистично. «Думаю, бояться искусственного интеллекта не стоит, но относиться к нему нужно со всей серьёзностью - как к новому виду оружия, которым ещё надо научиться пользоваться, - говорит завкафедрой инженерной кибернетики НИТУ «МИСиС» Ольга Ускова, возглавляющая компанию по разработке ИИ. - Ситуация с ботами на Facebook, конечно, привлекла внимание широкой общественности, но никакого «восстания машин» не предвидится. Механизм обучения ботов на базе ИИ чётко зафиксирован в сценарии: он либо специально прописывается программистами, либо намеренно опускается».
Тем не менее кто бы мог подумать ещё недавно, что поставщиками новостей скоро станут компьютерные программы, которые живут своей жизнью и, похоже, уже не нуждаются в человеке? скачать dle 10.2 КиноСвин


Схожі публікації

СТРІЧКА НОВИН

17.08.17
Нацбанк готує революцію на валютному ринку
17.08.17
Розенко розповів, коли запрацює накопичувальна пенсійна система
17.08.17
ЗМІ повідомляють про 13 загиблих в Барселоні
17.08.17
Путін твердо вирішив піти: в Росії зробили гучну заяву
17.08.17
Названо кількість жителів Криму, активно бажаючих звільнення півострова
17.08.17
Невідомі захопили заручників в ресторані в центрі Барселони – ЗМІ
17.08.17
Ентомологи показали найдовше у світі комаха
17.08.17
Ізраїль не надав НАПК інформацію про нерухомість Третьякова
17.08.17
Радник МВС розсмішив українців забавним колажем з політиками
17.08.17
Порошенко засудив теракт в Барселоні
17.08.17
СБУ заявляє, що ФСБ РФ планує теракти і вбивства в Україні
17.08.17
НБУ попередив банки про можливу хакерської атаки на День Незалежності
17.08.17
Доллар подешевел на семь копеек. НБУ назвал курс гривны на завтра
17.08.17
6-я серия 7-го сезона сериала «Игры престолов» слита в Сеть хакерами
17.08.17
Сын Одри Хепберн раскрыл причины ее стройности
17.08.17
В СБУ рассказали о российских диверсантах, которые планировали убить государственных деятелей
17.08.17
В Украине запускают онлайн-поиск сепаратистов
17.08.17
В Минобразования и СБУ прокомментировали ситуацию с отправкой украинских школьников в РФ
17.08.17
Население Украины резко сократилось
17.08.17
Супрун займає свій кабінет незаконно - Рабинович
17.08.17
Глава СБУ обвинил ФСБ: за месяц направила в Украину три диверсионные группы
17.08.17
Стало відомо, чому королівська сім'я не дає автографи
17.08.17
Барак Обама встановив небачений рекорд
17.08.17
На що пішов Джон Сноу заради «Ігри престолів»?
17.08.17
Катя Осадча та Юрій Горбунов втомилися від батьківства
17.08.17
В Україні назвали несподівану причину анексії Криму
17.08.17
Держдеп оголосив конкурс на закупівлю нелетальної зброї для України
17.08.17
МВС збирається фіксувати на відео здачу іспитів на водійські права
17.08.17
В Європі відкривають скриньку Пандори, який переділить всі межі
17.08.17
Хто винен у загибелі українських військових під Иловайском
17.08.17
У Києві при спробі передати хабар затримали групу сутенерів
17.08.17
В Індії 10-річна дівчинка народила дитину, не знаючи про вагітність
17.08.17
Суд визнав влаштував різанину під Мюнхеном неосудним
17.08.17
Воспитанник "Динамо Киев" отправился на заработки в Россию
17.08.17
Игра нервов. Чем грозит выход Ирана из ядерного соглашения
17.08.17
В Барселоне микроавтобус въехал в толпу
17.08.17
Въезд авто в группу пешеходов в Барселоне: СМИ сообщили о 13 жертвах
17.08.17
Британский парламент потратил 130 тысяч фунтов стерлингов на борьбу с мышами
17.08.17
В Северной части Китая произошел взрыв на химическом предприятии
17.08.17
В Барселоне произошел теракт. Есть раненые и погибшие
17.08.17
Ситуация на Донбассе: боевики разрушили несколько жилых домов
17.08.17
Россия несет большие потери на Донбассе, - пресс-центр штаба АТО
17.08.17
Анна Седокова разорвала отношения с очередным возлюбленным
17.08.17
Близкая подруга Глаголевой рассказала о последних днях звезды перед смертью
17.08.17
Дональд Трамп продает роскошное поместье на карибском острове, опубликовано видео
17.08.17
В честь певца Принса назвали новый оттенок фиолетового цвета — Love Symbol #2
Всі новини
Наверх