AIが人間を殺す日は来るのか?

人工知能(AI)の第一人者たちが、この技術の未来について語る暗い記事を読んだり、プレゼンテーションを見たりすることはよくあることです。「ロボットは感覚を持つようになり、きっとすべての人間を殺すか奴隷にするだろう。ロボットの支配者が我々を破滅させるのは時間の問題であり、我々にできることはあまり残されていない」という提言です。

AIは人間を殺さない

こんなの私たちの未来じゃない

 

このような終末予言者は、いつも3つの正当な理由をつけて論じます。

  1. AIを活用したシステムの知能化は進んでおり、一部のアプリケーションでは既に人間の知能を上回っている。例えば、AIシステムはチェスや囲碁の対戦で世界チャンピオンを倒すことに成功
  2. AIや機械学習の発展が加速し、いずれはより多くのシステムが完全に自律的に動作するようになる
  3. AIモデルが複雑になりすぎて、開発するデータサイエンティストでさえ、モデルがどのように動作し、意思決定しているのかを理解できなくなる

では、それぞれの主張について詳しく説明しましょう。

終末論その1AIは人間を超越する

AIや機械学習を応用したシステムは、すでに私たちの身近に存在し、これまで害よりもはるかに多くの利益をもたらしてきました。例えば、クレジット業界では、少なくとも30年前から、ほとんどの先進国で住宅ローンなどを提供するためのクレジットスコアリングに機械学習を活用してきました。この自動化によって、1960年代や1970年代に比べて、はるかに多くの人々がローンやクレジットカードにアクセスできるようになりました。また、より速く、より正確で、より安全なプロセスを実現しました。

たとえ世界一のチェスや囲碁のチャンピオンでも、コンピュータに勝てないという事実は受け入れがたいものですが、AIや機械学習は特定の領域において、すでに人間を凌駕しています。しかし、その事実をネガティブに捉える必要はありません。もし私たちが、エラーを起こしたり、他人に危害を加えたりするような作業をしている場合、その作業をよりうまくこなすシステムを作るよう、エンジニアや開発者が奨励すべきなのです。私たちは現在、自動化されたシステムに人間が介入し修正しながら、悪用や偏見を防ぎ、データが異常値を示す人々を保護するための保護手段も備えています。

終末論その2:すでにAIに支配されている

AIや機械学習の発展ペースに関する2つ目のポイントは、警戒すべき理由ではなく、むしろこの進歩を喜び、支援する理由であるべきです。私たちは皆、医療検査の分析、特に高コレステロールや糖尿病などの慢性疾患の患者のモニタリングやスクリーニングに関して、20年以上前から自動化システムの恩恵を受けてきました。今日、ほとんどの検査結果や報告書は、AIや機械学習のサポートによって自動的に作成され、医師や患者に異常や注目すべき結果を警告してくれています。これらのシステムは、長期間にわたって収集された大量のデータを分析する統計・機械学習モデルに基づいており、検査結果と特定の状態を相関させて警告箇所を特定します。この自動化システムは、医師が注目すべき領域をピンポイントで特定する能力で、人間の医師を凌駕しています。この例でも、こうしたモデルによって、これまで以上に迅速かつ正確な医療上の判断が可能となり、医師は机の上に置かれた検査結果をひとつひとつ手作業で分析する必要がなくなります。このプロセスに関わるすべての人が、こうした技術の進歩から恩恵を受けています。

以上のことをまとめると、AI機械学習モデル導入を加速することは、必要な技術であるとともに、これらの知的システムが下す判断を人々が常に見直し、検証する限り、多くの分野で社会に利益をもたらすものと言えるでしょう。

終末論その3AIの複雑化が人知を超える

AI破滅論者がしばしば提起する最後の問題は、世界最高のデータ科学者や開発者にとってでさえ、機械学習モデルやAIシステムが複雑化していることです。この複雑さゆえに、AIや機械学習システムで何が起こっているのか、世界で最も優秀な頭脳でさえも理解できないと、破滅論者は言います。

もちろん、有能なデータサイエンティストであれば、このような話しを実現させることはないでしょう。今日のデータサイエンティストは、「説明可能なAIテクノロジーを開発・実装し、これらのモデルがどのように意思決定を行い、データを収集するかをユーザーが正確に理解できるようにしています。アルテアのようなAIテクノロジーのベンダーは、Altair Knowledge Studioのようなソフトウェア製品に、豊富な「説明可能なAI」技術ツールを組み込んでいます。このトピックの重要性から、アルテアなどのベンダーは、あらゆるユーザーがAI機械学習モデルを理解し、調整できるツールやインターフェースの開発に投資し続けています。こうしたツールの中には、一つひとつのデータの背後にある意思決定の根拠を説明するところまで踏み込んでいるものもあります。

AIと末永く

私たちは、AIと機械学習が善のための力である理由と、どうすればその状態を維持できるかを3つの簡単な理由で、前述のすべての破滅論を否定できます。

(1) AIや機械学習の技術は、より良いサービスを提供する社会のあらゆる領域に適用され、より多くの人々がこれまで受けられなかったサービスを受けられるようになるべきです。さらに、AI機械学習は社会のために使われるべきであり、データが公正、公平、かつ透明な方法で利用されることを保証する法律や法整備が必要です。

(2) AIや機械学習モデルは説明可能であるべきです。AI機械学習モデルの説明を可能にする科学技術は存在し、オープンソースや商用ソフトウェアでも利用可能です。AI機械学習技術を利用する事業者は、説明可能なAIツールや技術を、データサイエンス実践の必須ステップとして取り入れるべきであると考えます。

(3)重要な判断は人間が最終決定権を持ち、ディプロイシステムは責任ある、安全、かつ公正な判断を保証するために、人間の優先権を認めるべきです。これらの安全措置は、人や財産に危害を及ぼす可能性のある重要なシステムには必須の要素でなければなりませんし、優先権を発動するタイミングや状況を説明できるAI機能も必要です。

AIは人間を殺さない

AIと末永く

過去に人と機械の関係を変えたあらゆるテクノロジーと同様に、AI機械学習は大きな変化をもたらしますが、いつの時代も変化には未知の恐怖がつきものです。しかし、規律正しく責任を持ってテクノロジーを導入し、法律やベストプラクティスを守れば、AIや機械学習は、歴史上、人々の生活を一変させた過去の主要テクノロジーと同様に、人類にとって有益であることが証明されると私たちは信じています。

*本記事は、アルテアのチーフデータサイエンティストMamdouh Refaatの投稿「AI Will Not Kill Us」を翻訳したものです。

2 5 votes
Article Rating

カテゴリー: Altair Global Blog, データアナリティクス

Subscribe
Notify of
0 Comments
Inline Feedbacks
View all comments