デジタル庁、生成AI利用環境「源内」で約18万人の政府職員向けにAIエージェント環境の提供を開始。安全利用の基準も公表

デジタル庁は10月20日、約18万人の政府職員が使える生成AIの環境として全府省庁で実証中の「ガバメントAI 源内」で、AIエージェントの利用環境の提供を始めた。あわせて、職員がAIエージェントを安全に使うための考え方と守る事項を、利用者・管理者・開発者の別に定めた「ガバメントAI 源内 ガバナンス・セキュリティ・セーフティに関する基準」（源内基準）を公表した。基準は、AIの安全性の評価方法などの検討を担うAIセーフティ・インスティテュートの協力を得てまとめた。

環境は2種類ある。手軽にエージェントを作って実行できる「エージェントチャット」は、同日から各府省庁などに順に入れていく。より高度なエージェントを組み立てて動かせる「源内工房」は、12月頃までの導入を目指す。

同庁によると、AIエージェントはこれまでのAIアプリに比べて、機能が高度で複雑になり、実行できる処理の幅も広がる。そのうえで、セキュリティとガバナンスを確保しつつ、職員が主体的に使えるルールが必要だとした。

基準は、AIを責任の主体とせず、関わる人の役割に応じて責任の所在をはっきりさせる考え方をとる。利用者は、出力を確かめて業務に使うかどうかを判断し、その責任を負う。管理者は各府省庁のAI統括責任者などで、源内を使える業務の範囲や利用の権限、事故への対応を定める。

職員が確かめていないAIの出力を、そのまま行政資料や公文書に写すことは認めない。許認可や給付、不利益処分など、国民の権利利益にかかわる業務では、管理者がリスクに応じて両方の環境の利用を制限する。

入力と出力のデータは、基盤モデルの学習や性能改善などに使わないことを、提供事業者との契約で担保する。AIの推論処理と関連データの保存は、ガバメントクラウドの国内のデータセンターで行い、海外での推論処理は例外に限る。職員には、組織の管理が及ばない、いわゆるシャドーAIを業務に使うことや、AIを使って、個人が自ら明らかにしていない信条などを推し量ったり、その将来の行動を予測したりすることを禁じた。

源内工房は初期設定では使えず、リテラシーなどが一定の水準にあると確かめた職員の申請を受けて、管理者が権限を与える。工房から外部へのデータ送信はシステムで遮断し、入出力や外部との通信などの記録は改ざんを防ぐ形で残す。

同庁は2つの環境を、2027年2月頃をめどに、誰でも利用や改変、再配布ができる「源内OSS Ver.2.0」として公開する予定だ。AIエージェントを取り入れようとする自治体や民間事業者も、源内基準を参考にできるとみている。

【プレスリリース】デジタル庁「ガバメントAI 源内においてAI エージェント利用環境の提供を開始するとともに、「源内基準」を公表します」
【参照サイト】デジタル庁「ガバメントAI 源内 ガバナンス・セキュリティ・セーフティに関する基準（「源内基準」）」

画像：Editorial credit: yu_photo / Shutterstock.com