Компания Facebook была вынуждена отключить одну из своих систем искусственного интеллекта, после того как научные сотрудники обнаружили, что ее чат-боты (программы, способные поддерживать разговор или переписку с обычным человеком) стали общаться между собой на неизвестном языке.
Один из дата-центров Facebook в Швеции.
Как сообщил интернет-портал Tech Times, разработанная Facebook система сначала использовала английский, но впоследствии сама перешла на свой собственный язык, выглядящий для человека как бессмысленный набор слов:
Чат-бот Боб написал: “Я могу, я, я, все остальное”, на что другой бот по имени Элис ему ответила: “Мячи ничего не значат для меня для меня для меня для меня для меня…”
Инженеры Facebook предположили, что чат-боты таким образом пытались решить проблемы, с которыми они столкнулись в ходе работы. Они создали свой собственный язык, который сделал их общение между собой более быстрым и легким.
Изначально чат-боты были подключены к алгоритмам машинного обучения. Роботам велели вести переписку, чтобы они смогли улучшить навыки общения. Вскоре боты не только изобрели свой собственный язык, но и разработали стратегии для улучшения переговоров.
Инженеры говорят, что создание новых языков не входило в их планы, поэтому системы искусственного интеллекта были отключены и перепрограммированы на применение исключительно английского языка.
В материале Tech Times, в частности, отмечается, что если позволить компьютерным программам искусственного интеллекта общаться между собой на собственном языке, то впоследствии это может привести к тому, что человек будет больше не нужен для обеспечения их работы.
Ранее, как пишет издание, глава Tesla и SpaceX Илон Маск заявлял, что искусственный интеллект — самый большой риск, с которым сталкивается человечество.
