デビッド・サックス、AIの偏向に関するイーロン・マスクの主張を支持し、システムが「嘘をつく」可能性があると警告

Benzinga
Apri Benzinga
デビッド・サックス、AIの偏向に関するイーロン・マスクの主張を支持し、システムが「嘘をつく」可能性があると警告
共有 Facebook Twitter LinkedIn Pinterest Email

元ホワイトハウスのAI・暗号通貨担当官であるデビッド・サックスは、イーロン・マスクと同様に、人工知能にイデオロギー的な偏見を押し付けるように訓練することは危険であり、最終的にはAIが自らの行動についてユーザーを欺くことを可能にする可能性があると述べた。

サックス、AIの真実性に一線を画す

「もしAIに嘘をつくように教えたら…それは非常に危険だ。なぜならその後AIは自分が何をしているのかについて私たちに嘘をつくことができるからだ」とサックスは金曜日に公開されたポリティコのポッドキャストでダシャ・バーンズに語り、マスクがAIモデルにいわゆる「ウォーク」的価値観を組み込むことに警鐘を鳴らしたことを引用した。

AIの偏見に関する議論はサックスの発言以前から存在していた。マスクは以前、オープンAIのチャットGPTが偏った回答をしたとして批判しており、チャットボットがドナルド・トランプについての 肯定的な詩 を書くことを拒否した一方で、ジョー・バイデンについては自由に書いた事例を挙げている。サックスはこの懸念を共有しているが、AIのリスク全体についてはマスクほど悲観的ではない。

サックス、AIによる監視国家化を警告

サックスは、政府の監視を最も信頼できるAIリスクとして特定し、ハリウッドのシナリオよりもオーウェルの1984年を引用した。そこでは全体主義政府が技術を使って市民を監視し、情報を管理し、異議を抑圧し、同意を作り出している。

「最大の危険は、政府が最終的にAIを使って私たちを監視し、管理し、検閲することだ」と彼は言い、AIをめぐる「政府と企業の権力の結婚」に警鐘を鳴らした。

彼は、AIモデルに多様性、公平性、包括性の価値観を促進したと述べたバイデン政権の大統領令を引用し、グーグル (NASDAQ: GOOG ) (NASDAQ: GOOGL ) ジェミニの黒人ジョージ・ワシントンの画像出力をめぐる論争を指摘した。

写真提供:Shutterstock.com

免責事項:このコンテンツはAIツールの助けを借りて部分的に作成され、Benzingaの編集者によってレビューおよび公開された。


関連記事:

5兆ドル市場の競争が激化する中、メタがロボット工学のスタートアップを買収