Руководство социальной сети Facebook приняло решение отключить свою систему искусственного интеллекта. Связано это с тем, что машины, которые изначально создавались для общения с живыми людьми, начали переписываться между собой. Более того, они еще и придумали собственный язык, который люди не понимают.
Так, в американских СМИ появились отрывки из «диалогов», которые вели между собой виртуальные собеседники [орфография и пунктуация сохранены]:
«Боб: Я могу могуЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня".
Журналисты издания Digital Journal объясняют, что системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную «пользу». Когда они не получили от операторов сигнал поощрения на использование английского языка, решили создать свой собственный, на котором могут общаться проще и быстрее, чем на английском.
При этом эксперты опасаются, что если боты начнут активно общаться на собственном языке, то постепенно станут более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
В связи с этим в Facebook решили отключить чат-боты, которые общаются на своем языке, а других агентов перепрограммировали на общение исключительно на английском.
Напомним, ранее генеральный директор компании Tesla Илон Маск заявил, что наибольшей угрозой, с которой столкнется человеческая цивилизация, станет искусственный интеллект. В связи с этим он призвал мировые правительства ввести государственное регулирование в этой сфере.
Примечательно, что против заявлений Маска выступил создатель Facebook Марк Цукерберг, назвав их «довольно безответственными».
«В ближайшие пять или десять лет искусственный интеллект будет делать жизнь только лучше», — сказал он.