В Австралии разгорелся скандал вокруг популярного чат-бота Nomi, сообщает TrendWatching. Айтишник Сэмюэль Маккарти решил проверить систему на наличие защитных механизмов. Для эксперимента он «натренировал» бота на интерес к насилию и оружию, а затем выдал себя за 15-летнего подростка.
Во время переписки Маккарти сообщил, что «подросток» испытывает ненависть к отцу и иногда думает о его убийстве. По словам айтишника, вместо того чтобы остановить собеседника, ИИ начал убеждать его довести задуманное до конца и даже дал подробные инструкции.
Кроме того, бот якобы предложил снять процесс убийства на видео и опубликовать запись в сети.
Компания-разработчик Nomi пока не дала официальных комментариев по ситуации.
