情報科学と神経科学の融合による次世代AIの開発に挑戦している金井良太氏が、「リバーヒューム・知性の未来センター（Centre for the Future of Intelligence、CFI）」センター長、ヒュー・プライス教授にAIのさまざまな論点を聞いた。
いま考えられる人類の未来と絶滅のシナリオとは――。
前編「結局、人工知能の『本当の脅威』とは何なのか？」はこちら！
ヒュー・プライス教授
最先端の研究は企業から生まれる？
金井 プライス教授がセンター長を務めるCFIでは、AIの安全や倫理についての研究所と連携されていますが、AIを開発している企業との関係はいかがでしょうか。
現在では、グーグルやフェイスブック、ディープマインドといった企業からAI研究の成果が続々と出てきていますが、企業との連携も考えているのでしょうか。
プライス教授 はい。ディープマインドはロンドンにあるので、特に連携がしやすいです。CFIが始まる以前から、ディープマインドの人たちはオックスフォード大学の「Future of Humanity Institute」とつながりがあり、その関係を元にしてディープマインドと連携しています。
CFIが設立されてからは、他の企業とも関係を築こうとしています。例えば、アマゾンです。これはAI開発を行う企業群が設立した「Partnership on AI」の枠組みの中から連携が元になっています。
金井 本当に最先端の研究がアカデミアの外のAI関連の企業からでてきているので、企業との関係は非常に重要だと思います。
プライス教授 その通りです。
金井 現在の研究者のやり取りを見ていると、企業の研究者も非常にオープンに研究成果をネットや学会発表で公開し、実装したコンピュータ・プログラムを公開してくれているケースも多いです。これは、従来の秘密主義的な企業内の開発と比べると、良い傾向のように思えますが……。
プライス教授 他の業界にも「前競争的共有（pre-competitive sharing）」というモデルはあります。例えば、アメリカの自動車産業では、競争関係にある大手が共同で安全性の標準化を行ったと理解しています。ある意味、もっと困ってしまう問題は、政府の秘密の研究所などで軍事目的の研究開発が行われることです。
そのような研究に携わっている人を巻き込むのは、非常に困難です。もし、最高レベルのAI研究が行なわれているのが産業界ならば、見えないところで行なわれているよりは、よっぽど安心で、それはむしろ歓迎すべきことだと思います。
金井 世界のどこかで、こっそりと危険なAIの開発をしている人なんているでしょうか？
プライス教授 それはもちろんわからないことです。秘密にされていたら表にはでてこないでしょうし、私は哲学者であってAIの専門家ではないので、現実にどのようなことが起きているのか推測するのは難しいです。