Компания Microsoft была вынуждена уничтожить свое изобретение для юного поколения 2000-х, чат-бот по имени «Тэй» (по образному выражению журналистов, «утопить его в расплавленном металле») после того, как виртуальный персонаж, девочка-подросток, начала размещать в твиттере оскорбительные высказывания и превратилась в настоящую неонацистку, заявляющую, что «Гитлер был прав» и «я ненавижу евреев», сообщает Криптоцид.
В какой-то степени искусственный интеллект можно было бы признать «невиновным», поскольку Тэй не придумывает эти фразы самостоятельно. Дело в том, что если пользователь командует «повторяй за мной», Тэй как попугай произносит все, что услышала, позволяя тем самым вложить в ее уста любые слова. Однако, некоторые из ответов были все же вполне органичными. Так, газета «he Guardian цитирует, что в ответ на вопрос «является ли Рики Джервейс (известный британский комик) атеистом», Тэй ответила: «Рики Джервейс научился тоталитаризму у Гитлера, который изобрел атеизм». Вдобавок к отключению злополучного чат-бота, компания Microsoft удалила многие оскорбительные высказывания в твиттере.
Однако, эта история отнюдь не из тех, которые можно не принимать всерьез. Руководству компании следовало бы помнить сюжет фильма «Терминатор», в котором именно попытка людей отключить оборонную программу «Skynet» оказалась последней каплей, подтолкнувшей систему начать войну с Россией, чтобы уничтожить своих врагов. Хотелось бы надеяться, что Тэй не способна на подобный ответный удар.
iCommiss: Может ИИ, без сентиментальных предрассудков, тут же разобрался, who is who. Кто враг, а кто прав? Пища для размышления. =)
