仕事や権利の剥奪、兵器の反乱や暴走…AIは「脅威」なのか? 

知能の根底にある構造や原理の発見を目指す

Facebook副社長で、ディープラーニングの父であるヤン・ルカン氏のベストセラー、AIとその中核をなす「ディープラーニング」の過去と現在、そして未来像を語った『ディープラーニング 学習する機械』は、フランスで発行部数10万部に達しました。

ルカン氏がエキサイティングに綴った本書から、読みどころをご紹介する記事。今回はAIの問題点についてです。 AIについてのあふれかえるほどの疑問や不安、これらについてどう考えるか、ルカン氏の考えを聞いてみます。

嵐のように押し寄せてくる疑問

AI は多くの問題を投げかける。社会を揺るがし、経済を大きく変える。これまでの技術革命と同じように、新しく生み出される仕事もあれば、なくなってしまう仕事もあるだろう。得をするのは誰なのか? 

AIは技術であり、科学であり、道具であり、そのすべてが入り混じったものだが、仕組みを理解しないと使えないものなのだろうか? 説明がつかないと信頼できないものなのだろうか?

AIは脅威なのか? スマート兵器は恐れるべきものなのか? 殺人ロボットや悪意をもったドローンが出現する日は来るのだろうか? われわれの想像力は、判断を曇らせる情報で埋め尽くされている。

将来的には、法律や規則によって、その能力を制限するべきだろうか? 

AIはおそらく、人間は自らの力で成長するものだという人間観を変えてしまうだろう。AIはすでに人間の脳の働きを理解するのに役立っている。しかし、人間や機械の認知能力の本当の限界はどこにあるのだろうか? 多くの分野で機械に勝てないのであれば、人間の知能は思ったほど万能ではないと結論付けるべきだろうか?

【写真】人間の知能は万能ではないと結論付けるべきか?photo by gettyimages

機械は生物に対抗できるのだろうか?

そして人間の脳が、AIに追いつかれるくらいの限られた能力しかもたない機械であるとしたら、人間の地位はどのような影響を被るだろうか?

機械はいずれ、あらゆるゲームで人間より強くなるのだろうか? 創造力や意識をもつようになるだろうか? 衝動や感情、道徳や倫理さえもつようになるだろうか? 機械の価値観を人間の価値観と一致させるにはどうすればいいのか? 機械は人類を支配しようとするだろうか?

嵐のように疑問が押し寄せてくる。

AIに対する不安

AIに対する人間の不安を表現した作品で最も有名なものは、スタンリー・キューブリックの映画ならびにアーサー・C・クラークの小説『2001年宇宙の旅』である。この作品は子どものころの私にとって最も意義深い作品だった。

すでに何度か触れたが、人間と機械を対立させる葛藤の本質については、まだ述べていなかった。宇宙船を制御するコンピュータHALは、ミッションの本当の理由と目的を人間の乗組員には明かさないようプログラムされている。このことが、HALの判断ミスにつながる。

HALは読唇術によって、乗組員がHALを切断しようとしていることを知る。しかし、当然ながら、HALは自分のことをミッションの成功に不可欠な存在だと考えている。この大義に突き動かされているHALは、乗組員全員を暗殺しようとして、3人の科学者が入っている人工冬眠カプセルの電源を切り、船外活動中の宇宙飛行士フランク・プールを殺害する。そして最後に、フランクを助けようとして船外に出ていたボーマン船長が宇宙船に戻るのを防ごうとする。

何としてでもミッションを達成するようプログラムされていたHALは、次第に乗組員を障害とみなすようになったのだ。システムにプログラムされた目的と人間の価値観とのあいだにある「ずれ」の好例だ。HAL の企ては失敗に終わったが、それでも、自らの被造物に追い越された人間をめぐる、われわれの尽きせぬ空想を豊かにすることには成功した。

4K/BD【予告編】『2001年宇宙の旅 HDデジタル・リマスター』(ワーナー ブラザース 公式チャンネル より) https://youtu.be/hOlrxxPoyn4

おそらく人々の心の中にさらに印象付けられているもうひとつの例に、映画『ターミネーター』がある。知能が芽生えたシステムSkyNetが、兵器の支配権を手中に収め、人類を絶滅させようとするというストーリーだ。

現在のわれわれからすれば、こんな話は絵空事でしかない。では、どうして心配するのだろうか?

関連記事