社会は人工知能（AI）によってもたらされるリスクにどのように対処するべきだろうか。これに関しては、AIによるメリットが差し迫った危険性を上回っているため、安易に制限を加える道に進むべきではないという主張もある。
提供：Recursion Pharmaceuticals
Recursion Pharmaceuticalsの共同創業者であり、最高経営責任者（CEO）でもあるChris Gibson氏は米ZDNETとの最近のインタビューで「（AIへの）取り組みを中断すべきだという、幅広く包括的な提案は少しばかり見当外れだと私は考えている」と述べた。
また同氏は「機械学習（ML）によってもたらされる機会に人々が積極的に取り組み続けていくということが極めて重要だと私は考えている」と述べた。
Recursionは世界の製薬業界と協力し、創薬にAIを活用している。
同氏は、Elon Musk氏やAI研究者のYoshua Bengio氏など多くの人々が3月に連名で発行した、AIの危険性が調査されるまで同研究を一時停止するよう求める公開書簡に対する自らの見解を述べてくれた。
同書簡は、AIの優位性を追求し、作り手が「理解できず、予測できず、確実に制御すること」のできないシステムの生成につながる「制御不能な競争」を停止するよう求めている。
Gibson氏は、MLプログラムが感情を持つようになる可能性といった、同氏が非現実的だと見なしている懸念について的を絞って語った。こうしたシナリオが現実化する可能性はかなり低いと研究者らも考えている。
Recursion Pharmaceuticalsの共同創業者兼CEOであるChris Gibson氏は「どれだけ多くの機会が眼前に広がっているのかを考えた場合、6カ月間、あるいは1年間の（AI研究）停止は望ましい話ではない」と述べた。
提供：Recursion Pharmaceuticals
Gibson氏は米ZDNETに「Recursionでわれわれが進めている作業は極めて興味深い。それは数十億規模のパラメーターを持つモデルの訓練であり、生物学の観点から見た場合、本当に、本当に刺激的なものだ」と述べるとともに、「しかし、こういったモデルには感情がなく、感情を持つようになることもない。そうしたものからは程遠い」と述べた。
同氏が最も心を砕いていることの1つは、自社や他社が創薬といった分野での取り組みで進歩していく力を維持するというところにある。BayerやGenentechなどの企業と提携しているRecursionは現在、医薬品開発プロセスの臨床段階にある薬剤候補を5つ抱えている。また同社は既に、分子間の「推測された関係」をデータベース化した「Phenomap」に13ペタバイトを超えるデータを集積している。
Gibson氏は「極めて具体的な質問に答えるために別途用意されたモデルは、人類の進歩にとってとても重要だと考えている」と述べるとともに、「当社が有しているようなモデルや、当社と類似している企業のことを考えてほしい。どれだけ多くの機会が眼前に広がっているのかを考えた場合、6カ月間、あるいは1年間の（AI研究）停止は望ましい話ではない」と述べた。
NASDAQに上場しているRecursionは7月に、AI処理向けのGPUプロセッサー市場で王座に君臨しているNVIDIAから5000万ドル（約74億円）の投資を受けたことを発表している。
同氏は、AIについて懸念を表明している人々や、AI開発の一時停止を求める人々について、慎重に言葉を選びながら語った。同氏は、Recursionの共同創業者が数年前にAIの倫理的課題に関する懸念を理由に、日々の企業運営から退いたことを指摘した上で、「この懸念に関して論陣を張るいずれの陣営にも本当に知的な人々がいる」と述べた。
Recursionのアドバイザーを務めるYoshua Bengio氏も、公開書簡に名を連ねている1人だ。
Gibson氏は「Yoshua（Bengio氏）は聡明（そうめい）な人物だという点で、私は少し答えにくい状況に立たされている」と述べた上で、「しかし、この議論には双方の側に重要な論点が存在していると考えていることは言っておきたい」と続けた。
一時停止に賛成する陣営と、反対する陣営のものの見方が異なっているということ自体、「慎重になるべきだという点が示唆されている」と同氏は述べる一方で、「しかし私は、MLやAIのアルゴリズムに対するあらゆる訓練やあらゆる推論を、どれだけの期間であったとしても停止すべきだとは考えていない」と続けた。
なおGibson氏のチームは米ZDNETに対してインタビューの後に、Bengio氏がAIのリスクに関して執筆したブログ記事を引用し、社会的に有益だが一般企業では軽視されがちなヘルスケアリサーチや気候変動といった分野においては、AIアプリケーションが悪用される可能性は低いため、こうした分野への投資は区別して実施すべきだと同氏が考えていると教えてくれた。
Gibson氏の意見は、Meta PlatformsのチーフAIサイエンティストを務めるYann LeCun氏といった、Bengio氏と並び称される人々の意見に沿うものとなっている。LeCun氏は、Bengio氏の友人であり、時には協力者でもあるが、開発停止に向けたイニシアチブには反対している。
Gibson氏によると、リスクはたとえそれが起こり得ないものであっても、慎重に考慮する必要があるという。そういったリスクには、Future of Humanity Institute（人類の未来研究所）などの組織が主張している人類滅亡というシナリオも含まれている。
同氏は「例えば、MLやAIのアルゴリズムに対して、可能な限り世界を美しく平和にするという目的の下、ある種の効用関数の値を最大化するよう求めた場合、そのアルゴリズムは美の欠如と平和の欠如をもたらす最大の元凶が人類だと判断する可能性もあるという点について、あながち間違いではないと考える人たちが、AI分野に従事する人たちの中にもいる」と述べた。
その結果、プログラムによって「何か本当に恐ろしいものが生み出される」可能性もある。同氏はこうした見込みが「十中八九、間違っている」と述べた上で、「ただ、影響があまりにも大きいため、それについて考えておくことは重要だ。われわれが空の旅をする際、どこかで飛行機が墜落するという可能性はほとんどないが、その代償はあまりにも大きいため警告について検討することになる」と続けた。
またGibson氏は、大量破壊兵器の制御をプログラムに任せないようにするといった、「現時点でも同意を得られる明らかな物事もいくつか」あると述べた。
同氏は「AIやMLのアルゴリズムに核兵器発射システムへのアクセスを許すことなど支持できるだろうか。それは絶対にあり得ない」と述べた。
より一般的な範囲として同氏は、アルゴリズム内におけるバイアスの問題に対処する必要があると確信しており、「われわれはデータセットについて細心の注意を怠らないようにするとともに、最適化対象の効用関数が何らかのバイアスを含まないよう保証する必要がある」と述べた。
Gibson氏は、「われわれの生活の一部となりつつあるこうしたアルゴリズムの出力には、さまざまなバイアスが入り込んできている」とした。
Gibson氏の観点に立てば、最も基本的な懸念は万人にとって自明であるはずだ。同氏は「アルゴリズムに対してインターネットへのアクセスを無分別に与え、リスクを高めることがその好例だと考えている」と述べ、「これに関する何らかの規制が近々設けられる可能性がある」と続けた。
同氏は、規制に関する自らの立場について、「高機能社会の一構成要素になるには、すべての可能性を洗い出し、それにまつわる重要な議論を済ませておくことだ。全てのMLや全てのAIを対象とした大きな規制の網をわれわれ自身の周りに張り巡らせてしまわないよう注意する必要がある」というものだと述べた。
AI関連の倫理における喫緊の課題は、OpenAIやGoogleといった企業が自社プログラムの内部動作に関する情報開示をますます減らしているという現在の傾向だ。Gibson氏は、プログラムのオープンソース化を求める規制はどのようなものであっても反対だと述べた上で、「ただ、私は皆が前に進み続けられるよう、これらほとんどの企業が自らの成果の一部をさまざまな方法で社会と共有していくことが重要だと考えている」と述べた。
同氏は、Recursionが多くの自社データセットをオープンソース化している点を指摘した上で、「将来においてもわれわれのモデルのいくつかをオープンソース化する可能性について私は排除しないだろう」と述べた。
規制や統制という大きな問題が特定国家の国民の意志に帰着するのは明らかだ。ここでの重要な疑問は、いかにしてAIの知識を有権者に持ってもらうのかだ。その点についてGibson氏は楽観視していない。
同氏は、教育が鍵になるものの、「現代の国民は知識を得ることに興味を持っていないように感じられるというのが私の全般的な感覚だ」と述べた。
同氏は、「知識の獲得に興味を抱いている人は、こういった物事に注意を払う傾向がある」と述べた上で、「しかし、それ以外のほとんどの人はそのような傾向を有していない。とても不幸なことだ」と続けた。
