グーグル、AIを兵器や監視ツールに「使用しない」誓約を削除

グーグルは2018年、自社のAI技術を兵器などに使用することを禁じる基本理念を発表していた。しかしこの原則は、ドナルド・トランプ大統領の2期目が始まって2週間で、全面的に見直された。

グーグルは2月4日（米国時間）、人工知能（AI）やそのほかの先端技術の使用方法に関する基本理念を見直すと発表した。同社は2018年に基本理念を発表しており、そのなかで「全体として害を引き起こす、または引き起こす可能性のある技術」、「人々に危害を加えること、または直接的に危害を助長することを主な目的とする、もしくはそのような実装がなされる兵器やそのほかの技術」、「国際的に認められた規範に違反する監視目的で情報を収集または使用する技術」、「その目的が国際法や人権の広く認められた原則に反する技術」を追求しないと約束していた。今回これらの文言を、すべて削除した。

この変更は、18年に理念を発表したブログ記事の冒頭に、注釈を付けるかたちで明らかにされた。そこには、「2025年2月4日更新：AI原則を更新しました。最新情報については、AI.Googleをご覧ください」と書かれている。

一方、グーグル幹部ふたりが連名で2月4日に投稿したブログでは、AIの基本理念を見直す必要があった背景として、AIの利用拡大、標準規格の進化、そしてAIを巡る地政学的な競争を挙げている。

グーグルが最初に基本理念を発表した18年、同社は米軍の無人機プログラムに協力する決定をしたところ、社内から猛反発を受け、それを鎮めるために動いたという経緯がある。グーグルは政府との契約更新を拒否し、AIなどの先端技術を将来的に使用する際の指針となる一連の基本理念を発表した。その原則のなかには、グーグルは兵器や特定の監視システム、人権を損なう技術を開発しないと明記されていた。

倫理面での懸念

ところが4日の発表では、グーグルはこれらの約束を撤回した。新しいウェブページには、以前記されていた禁止している用途の一覧は削除されている。代わりに、改訂された文書には、潜在的に慎重に扱うべき利用シーンをグーグルが追求できる余地をつくっている。

グーグルは新たな目標として、大胆で責任感があり、協力的なAIイニシアチブを追求することを掲げている。「社会的に有益であること」や「科学的卓越性」を維持するといった表現は消え、「知的財産権の尊重」への言及が追加された。

約7年前に最初のAI原則が発表された後、グーグルは、全社的にプロジェクトが公約を守っているかどうかを検証するふたつのチームを立ち上げた。ひとつは、検索、広告、アシスタント、マップなどのグーグルのコア業務に焦点を当てたものだ。もうひとつは、グーグル・クラウドの提供と顧客との取引に焦点を当てたものだ。しかしグーグルの消費者向け事業に焦点を当てたチームは、昨年初めに分割された。同社がOpenAIに対抗するためにチャットボットやそのほかの生成AIツールの開発を急ぐためだ。

グーグルの倫理的AI研究チームの元共同リーダーで、後にその職を解雇されたティムニット・ゲブルは、同社の原則へのコミットメントは常に疑問視されていたと主張する。「これらの原則を書き留めて、その逆のことをするよりも、いくつかの原則を持っているふりをしないほうがいいと言いたいです」とゲブルは語った。

基本理念の解釈はさまざまで、ビジネス上の要請を優先させるように上層部から圧力をかけられたこともあり、仕事はときどき困難を極めた、と元グーグル職員だった3人は語る。元職員は、社内の各プロジェクトが、グーグルの原則に沿っているかの審査に携わっていた。

グーグルは現在も、さまざまなAI駆動型製品を含む公式の「クラウドプラットフォームの利用規定」に、危害防止に関する文言を残している。同規定では、「他者の法的権利」を侵害することや、「個人または個人からなる集団に死亡、重大な危害、傷害を与えるテロや暴力行為」などの違法行為に関与したり、それを助長したりすることを禁じている。

運用面での危惧

しかし、この方針が、「Project Nimbus」──イスラエル政府とのクラウド・コンピューティング契約で、同国の軍に利益をもたらしている──とどのように両立するのかについて追及されたグーグルは、「このプロジェクトは、兵器や諜報活動にかかわるような、極秘や機密扱いの軍事関連作業を扱うものではありません」と答えている。

グーグルの広報担当アンナ・コワルジックは昨年7月に『WIRED』に次のように語っている。「ニンバスの契約は、当社の運営するコマーシャルクラウド上でイスラエルの政府機関が行なう作業を扱うものです。当然イスラエルの政府機関は、当社のサービス利用規約と使用規定を守ることに同意しています」

グーグル・クラウドの利用規約でも同様に、法律に違反するアプリケーションや、「個人の死や深刻な身体的危害につながる」ような適用を禁じている。また消費者向けのAIサービスの一部でも、違法な利用や、潜在的に有害または攻撃的な利用を禁止している。

グーグルとアマゾンをイスラエル軍とつなぐ「Project Nimbus」の知られざる実態
イスラエル政府とグーグルおよびアマゾンが2019年に結んだクラウド契約「Project Nimbus」。このプロジェクトとイスラエル国防軍の関係は、表に出ているよりはるかに親密なものであることが、『WIRED』の調査から明らかになった。