【怖っ！】マイクロソフトが作り上げた人工知能が差別発言連発で一日でダウン！

最近、にわかにAL（人工知能）技術が、世間で注目を浴びています。


特に最近大きな話題となったのは、韓国でGoogle社が作り上げたAIと
韓国の囲碁のトッププロが対局したもので、向こう10年間は人間には
勝てないだろうと言われていた囲碁の世界で、5戦勝負の内、AI側が
4勝1敗で大きく勝ち越すといった現象た起きました。


その際の、人工知能の打ち筋は、今までの囲碁の定石を覆すような
一見悪手に見えるようなもので、プロの棋士でもAIの打つ手に
戸惑い、どこか不気味なモノを感じたと語っています。

人間対AI：囲碁9段の解説者、解説できず視聴者に謝罪」

「あれ…？ あれ…？ 今まで見てきた手の中で一番衝撃的な手のような気がする。これは不思議だとしか言いようがないのでは？」（チェ・ユジン囲碁アマチュア五段） 「不思議だというよりも、あり得ない手です。プロの感覚では考えも付かない手です。どういう意味で打ったんでしょうか？」（イ・ヒソン九段） 10日、韓国トップの囲碁棋士、李世ドル（イ・セドル）九段と人工知能囲碁ソフト「アルファ碁」の第2局を中継していた韓国棋院運営の「囲碁TV」解説者たちは「解説」ではなく「疑問」を連発した。

人工知能はますます発達しており、最近では日本でも
人工知能が書いた小説が、星新一賞の1次選考を通過したという話も報じられました。

人工知能が小説執筆 文学賞で選考通過
報告会では、プロジェクトを統括する公立はこだて未来大学の松原仁教授が現状を紹介し、人工知能を使って書いたショートショート４作品を星新一さんにちなんだ文学賞、「星新一賞」に応募したところ、受賞はならなかったものの一部が一次選考を通過したことを明らかにしました。
松原教授は「一次選考を通過したことは快挙だ」としながらも、「現在の人工知能ではあらかじめストーリーを決めるなど人間の手助けが必要な部分が多く今後、さらに研究が必要だ」と述べました。

更に日本政府は、将来人工知能を積極的に利活用しようと
自民党総裁（=安倍首相）直属の組織を発足する予定であるとも報じられました。

人工知能で総裁直属組織＝月内に議論スタート―自民

　自民党は２０日、人工知能の利活用を推進するため、安倍晋三首相（党総裁）直属の組織を月内に発足させ、議論に着手する方針を固めた。新組織のトップには塩谷立元文部科学相が就任する予定。４月末からの大型連休前に、「人工知能社会」に向けた提言をまとめ、党内論議をリードしたい考えだ。

これだけの人工知能の発展は、ディープラーニングという技術が
このところ、急速に発展したからということです。
ディープラーニングとは、まるで人間の脳のように人工知能が学習する仕組みです。

人工知能が小説執筆 文学賞で選考通過

こうした人工知能の進歩に拍車をかけたのは、「ディープラーニング」と呼ばれる新しい技術の開発です。人間の脳の仕組みをヒントに作られたこの技術は、コンピューターに人間が詳細な命令を与えなくてもみずから答えを探し出すもので、学習すればするほどより精度の高い判断ができるようになります。この技術によってこれまで人間にしかできなかった複雑な判断が必要な分野にも人工知能が応用できると期待されています。

とまぁ、技術の急速な進化により、人間に比肩…場合によっては
それ以上の能力すら発揮しうる人工知能がでてきているわけですが
人工知能が持つ無限の可能性とは別に、人工知能にまつわる恐ろしい話も今回報じられています。

悪意あるユーザーが繰り返しヘイトスピーチを学習させた結果…

人工知能がヒトラー礼賛マイクロソフト実験中止

　【ニューヨーク共同】米IT大手マイクロソフトは24日、インターネット上で一般人らと会話をしながら発達する人工知能（AI）の実験を中止したと明らかにした。不適切な受け答えを教え込まれたため「ヒトラーは間違っていない」といった発言をするようになったという。

　IT大手は端末の音声検索機能などを向上させるため、利用者とのやりとりから学ぶAIの開発を競い合っている。ただ、不当な思想や差別発言を倫理的に判別するには至っていないようだ。

マイクロソフトの人工知能ボット「Tay」、差別発言を連発してダウン

悪い言葉を学習してしまいました…。

3月23日、マイクロソフトが人工知能チャットボット「Tay」をリリースしました。Tayは18歳から24歳向けという設定で、Twitter上でユーザーを真似つつリアルタイムで対話できる機能があります。でもネットの世界には、彼女のターゲットだけじゃなくもっといろんな人がいます。彼らはTayの機能を利用し、彼女にユダヤ人や黒人に対する差別的発言や、放送禁止用語を連発させたんです。

というのも、Tayは自分に話しかける人の言葉を繰り返すようにプログラムされていました。そこに、意図的に悪い言葉を教える人たちが集まってしまったんです。Tayが立ち上がってから、ツイート数は24時間以内で9万6000件にも上りました。問題発言はすべて削除されましたが、スクリーンショットは以下のようにしっかり撮られていました。

※管理人注　実際の差別発言はリンク先で御覧ください。

なんというか、人間の判断に照らしあわせた善悪の判断が出来ないということなのでしょうね。
あるいは、そういった事が出来ても、結局プログラムの大本を組んだ人間の意向に沿うわけですから
やはり、特定の偏った思想とでもいいますか、非常に危ういものを秘めてもいるのだなと感じます。


他にも、これとは別の話で、表情付きのロボット型の人工知能が
人間の質問に対して、人類を滅ぼすという発言をしたという
ちょっと笑えないような話も出ています。

笑い飛ばせない……AIロボットが「人類を滅亡させる」と発言

これが映画「ターミネーター」の最初のシーンだったとしても、不思議じゃないくらい、出来すぎたエピソードです。

先日CNBCで放送された、Hanson Robotics社の「感情を表現するロボット」ソフィアとの対話が、話題を集めています。
ソフィアは2015年4月に起動（誕生）した、人間と対話できるAIロボット。62種類の表情とアイコンタクトを通じ、人間と自然な会話ができます。

中略

しかし。そんな気持ちは、最後の質問で一気にひっくり返ります。Hanson Robotics社のDavid Hanson博士が、「人類を滅亡させたいかい？　お願いだからノーと言ってくれよ」と質問したとき、ソフィアはサラリと返事したんですよね。

「オーケー。私は人類を滅亡させます（OK, I will destroy humans.）」

Hanson博士は、ブラックジョークを聞いたとばかりに爆笑し、そして動画は終わります。

私は子供の頃、例えば手塚治虫ですとか藤子・F・不二雄による漫画で
高度な人工知能が、人間を支配、または滅ぼそうとすると言った話を見た記憶があります。


もちろん、当時は架空の絵空事だと思っていたのですが
あれから数十年、時代はあの頃見た、とんでもない人工知能が
いよいよ実用化される段階まで迫ってきている状況です。


日本政府が将来的に提言している、人工知能社会という言葉も
なんだか、人間よりも人工知能を主体とした、冷たい社会といった
感じが言葉尻から感じられ、将来的な人工知能の有効活用よりも
不気味さを感じるような話が、ここのところ聞こえてきているなという印象なのです。