Вышли из-под контроля. Facebook отключил роботов, придумавших собственный язык

Новости

Даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.

Программисты социальной сети Facebook были вынуждены отключить чат-боты на базе искусственного интеллекта после того, как они создали собственный язык для коммуникации, пишет «Корреспондент» со ссылкой на ВВС.

Отмечается, что изначально все боты общались на английском языке. Однако в последующем некоторые из них придумали язык для более быстрого общения между собой. Так как это противоречило целям проекта, компании Facebook пришлось отключить их, а других агентов искусственного интеллекта перепрограммировать на общение исключительно на английском.

Как поясняет издание Digital Journal, системы искусственного интеллекта опираются на принцип «поощрения», то есть продолжают действия при условии, что это принесет им определенную «пользу». В определенный момент они не получили от операторов сигнал поощрения на использование английского языка, поэтому и решили создать свой собственный.

Издание Tech Times отмечает, что у роботов изначально не было ограничений в выборе языка, поэтому постепенно они и создали свой язык, на котором они могут общаться проще и быстрее, чем на английском.

Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.

Добавить комментарий

Ваш адрес email не будет опубликован. Обязательные поля помечены *