金融機関向けクラウド「C-NOAH」、AIガバナンス強化でハルシネーション抑制

CTCは4月30日、金融機関向けクラウドサービス「C-NOAH（シー・ノア）」にAIガバナンス強化の新機能を追加したと発表した。今回追加されたのは、米Dynamo AIが提供するAI監査ツール「Dynamo Guard」を活用したもので、特に生成AIによる誤情報の生成、いわゆる「ハルシネーション（幻覚）」の抑制を主な目的としている。

近年、業務効率化や高度化の一環として金融業界でも生成AIの導入が進んでいるが、AIが事実に基づかない誤情報を生成する現象が問題となる場面は少なくない。従来、プロンプト作成に関する教育や学習データの見直し、AIの利用範囲の限定などが対策として講じられてきたものの、AI信頼性やリスク管理の観点から一層の対応が求められていた。

CTCが採用したDynamo Guardは、入力されたプロンプトが社内のコンプライアンスポリシーと合致しているかをリアルタイムで監査する。万一、コンプライアンス上問題がある内容や不適切なデータが入力された場合、そのプロンプトはAIの学習データに取り込まれず、回答生成自体も自動で停止する仕組みだ。また、AIが出力した回答についても、公的機関や業界団体、企業の公式データなど信頼性の高い情報と自動照合し、その正確性を数値化して評価する。評価結果が一定の水準を下回った場合、利用者に対して画面上でアラートが表示され、慎重な運用を促す設計も特長である。

金融現場では、例えばインターネットバンキングやFAQシステムなどでAIチャットボットを活用する機会が増えている。もしAIが誤った情報を返した場合、顧客や行員がそれを鵜呑みにして不適切な投資判断を下す、あるいは顧客情報の漏えいにつながるといった重大なリスクが生じうる。今回の機能追加で「C-NOAH」搭載のAIチャットボットは回答精度が高まり、金融機関のリスク低減と顧客サービス品質の向上につなげる。

今後もCTCは、こうしたAIガバナンスの取り組みや、顧客ニーズに合わせたC-NOAHのカスタマイズ、新たなアプリケーション開発を進める方針だ。

添付画像一覧

×

1 / 1

❮❯