ブログ

Aug 19, 2023

バイデン

テクノロジー バイデン政権にとって、ここ数年で最大のテクノロジー開発について疑問がつきまとっている。それは安全保障上の脅威がどれほど大きいのか?というものだ。 議会が AI に関してどのような新しい法律を制定するかを決めようと奮闘する中、

テクノロジー

バイデン政権にとって、ここ数年で最大のテクノロジー開発には、安全保障上の脅威がどれほど大きいのかという疑問がつきまとっている。

議会がAIに関してどのような新しい法律を可決すべきかを特定するのに苦戦し、連邦政府機関が新興技術に関して既存の権限を柔軟に活用する中、バイデン大統領はAI政策で最も積極的なプレーヤーとして浮上している。 | オリヴィエ・ドゥリエリー/AFP/ゲッティイメージズ

モハール・チャタジー著

2023/08/10 04:45 PM EDT

更新日:2023/08/11 08:24 AM EDT

リンクがコピーされました

金曜日、ラスベガス中のホテルで、世界で最も強力な人工知能システムのいくつかが、その隠された欠陥を探ろうとする少数のハッカー軍による一斉攻撃にさらされることになる。

ホワイトハウスは国民の暴行を認識しているだけでなく、それを支持している。

バイデン政権は5月、今週末の年次ハッカー大会で3日間にわたって実施される予定の、レッドチームと呼ばれるAIシステムに対する計画的かつ組織的なテスト攻撃を支持した。 OpenAI、Google、Meta を含むいくつかの大手 AI 企業は、演習のために自社の最新かつ最も強力な AI システムの一部を攻撃することに同意しました。

このハッカー攻撃は、急速に成長する強力な新しい AI モデルに対するホワイトハウスの主要な懸念の 1 つとなっている点を浮き彫りにしました。それは、それらが実際にどの程度安全なのか、そしてそれらがアメリカ国民や世界の国家安全保障に脅威を与える可能性があるのか​​ということです。ステージ。

ホワイトハウス科学技術政策局の高官アラン・ミスラブ氏は、「私たちの枠組みは、AIの機会を活用するにはまずリスクも管理する必要があるというものだ」と述べた。ハッキング チャレンジの主催者が今週末のレッド チーム演習を開発するのに役立ちました。 「大規模な言語モデルなどの場合、そのリスクは非常に広範囲にわたり、多くの場合、他のシステムに比べて明確ではない可能性がある」とし、「私たちの社会、経済、国家安全保障をカバーしている」と同氏は述べた。

議会がAIに関してどのような新しい法律を可決すべきかを特定するのに苦戦し、連邦政府機関が新興技術に関して既存の権限を柔軟に活用する中、バイデン大統領はAI政策で最も積極的なプレーヤーとして浮上している。 AI権利章典の枠組みを起草し、テクノロジー企業のCEOを招集し、テクノロジーによってもたらされる幅広い脅威と機会について一連の記者会見を開催した。

これらの脅威は、失業から差別、誤った情報に至るまで社会全体に及んでいるが、ホワイトハウスの最も具体的な措置の多くは安全保障問題に焦点を当てている。 AI担当の新しい特別顧問ベン・ブキャナン氏は、技術的な背景よりもむしろ国家安全保障の分野に詳しい。 先月ホワイトハウスが一連の自主的取り組みを発表するためにAIリーダーを招集した際、リストのトップに「安全性」が挙げられ、文書を通じてセキュリティーが重要な役割を果たした。

セキュリティに対する高い優先順位は、複雑な新しい AI システムが、敵によってハッキングされたり誤った方向に誘導される可能性から、ユーザーデータを生物兵器の製造などの暗い用途にさらす可能性があります。

「これらのモデルには、設計者やベンダーが予期していないこと、または実行してほしくないことを実行させる可能性があります。 確かに、セキュリティについては実際の考慮事項があると思います」とホワイトハウス科学技術政策局のディレクターであるアラティ・プラバーカール氏は述べた。

AI はセキュリティを向上させるツールにもなり得ます。今週、国防総省は、米国の重要なサイバーセキュリティを強化するために AI を使用する開発者に対する 2 年間の課題を発表しました。

今週末のレッドチームチャレンジのために、ホワイトハウスはDEF CONのAIビレッジと提携した。DEF CONは、主催者がハッキングウォーゲームを上演し、サイバーセキュリティの専門家がユビキタステクノロジーの最新の穴を明らかにする年次大会である。 国防総省などの政府機関は、これまでにもサイバーセキュリティの脆弱性を見つけるためにハッカーコミュニティに頼ったことがある。昨年のDEF CONハッキングチャレンジでは、参加者が軍の電力マイクログリッドに偽の気象データを供給した後、機能不全に陥る欠陥を発見した。