MSは5年前の実験でAIに無制限にネットから学習させるのは不味いって気づいてすぐ停止したのに
Amazonはネットから機械学習した結果をそのままユーザーに伝えることのヤバさを理解してなかったんだな
↓
・マイクロソフトの機械学習AI「Tay」、ネットで差別を学んでしまい一日で公開停止
マイクロソフトが、公開したばかりの学習型人工知能会話ボット「Tay」を緊急停止させました。理由はTwitterでの会話を通じて人種差別や性差別、陰謀論を学習してしまい、極めて不適切な発言を連発するようになったため。
発言は直接引用するのも憚られますが、たとえば特定の人物について問われれば放送禁止レベルの差別語で罵倒したり、ヒトラーを礼賛してホロコーストはでっち上げと主張するといった発言が残っています。