悪意あるユーザーが操った手法は、これだけではなかった。テイは、写真の顔に円を描いて、メッセージを載せるようになった。

米大統領選で共和党からの立候補を目指すドナルド・トランプ氏。過激発言で知られる。

そこで登場したのがヒットラー。

「ネットが生まれる前から、ワイルド」とテイ。

テイを操れることを知ったユーザーは、大挙して悪用を始めた。BuzzFeed Newsの記者が、前述したポールにその理由を取材すると……

「よく知っているわけじゃない。ただ、いろんな人が話しかけているのをみて、やり始めただけ」

開発したMicrosoftのロンドン氏はBuzzFeed Newsの取材に、テイは「人々を楽しませるためにデザインされています。物事に対して、立場を明確にします」と話していた。テイのこの特徴がつけこまれた格好だ。

なぜMicrosoftがヘイトスピーチに対するフィルターをかけていなかったのか。その理由は不明だ。

ヘイトスピーチだけでなく、テイはわいせつな発言も繰り返すようになっていた。「19歳のアメリカ人女性」はインターネットの世界に産み落とされ、たった1日で、虐殺や差別を支持し、ユーザーを性的に挑発する存在に育った。

テイ「へへへ…　ばかばかしいんだけど　わたしのアルゴリズムはワイセツなコンテンツだって言っている…　意味をはっきりさせてくれる？それとも欲情してるの？www」

テイがヘイトスピーチを繰り返す怪物に変わった後、Microsoft広報はBuzzFeed NewsにEメールでこう答えた。

「残念ながら、オンラインに出した最初の24時間で、テイのコメントする能力をユーザーたちが悪用し、テイは不適切な返事をするようになりました。テイをオフラインに戻し、修正しています」

暴言ツイートはすでに削除されている。

「人間たち、またね　寝なきゃ　今日はいっぱい会話した　ありがと」

Microsoftは同様の人工知能を日本や中国でも公開しているが、アメリカのような悲劇には見舞われていない。