理想的な開発環境と異なり、実際の世界は時々刻々と環境が変化しており、これに伴いAIの精度・品質も日々劣化します。例えば、昨今の新型コロナウィルスなどによる大きな社会変化が起こる際には、需要予測や与信審査AIの推論が不適切な結果になってしまうケースがあります。
予期せぬ形でAIが誤認識・誤学習し、ビジネス上の損失やコンプライアンス問題として顕在化する前に、プロアクティブに異常を自動検知し、AIの品質を保つことは、今後のビジネスにとって非常に重要です。一方で多くの企業にとって、専門家がAIシステムの運用状況を常時監視することは、コストやリソースの面で大きな負担となり、現実的に難しいという課題を抱えています。
2021年5月にリリースした「Citadel Radar(β版)」は、現在大手SI事業者や製造メーカー・AIベンチャー企業などで試験利用いただいています。「Citadel Radar」の運用時の自動モニタリング機能に、今回発表した「Citadel Lens」の学習時の自動検証機能を加えることで、さまざまなフェーズにおけるAIの課題を、人間が理解しやすい形で可視化して洗い出すことが可能です。保守・運用作業の自動化・効率化を加速することで、AIに起因する新たなリスクから企業を守ります。
さらにこれら二つのシステムを通じて得られた情報をもとに、個々の課題に対する改善策を提示するコンサルティングサービス「Citadel Enterprise Solutions」を提供します。運用時のAIの問題検知からモデル更新・再学習時の検証に至るまで、個々のお客様のAIの品質の維持・向上に関わるさまざまな課題に対し、エンドツーエンドで総合的にお応えします。
AIの社会実装が進む中、EUでは2021年4月に人工知能（AI）の利用に関する規制案が発表されるなど、欧州や米国では、AIの説明責任や公平性に対する懸念が高まっています。
AIシステムは、判断過程がブラックボックス化しやすくその透明性を維持することが困難になる場合があります。責任あるAIシステムを構築するために、米グーグルや米マイクロソフトなどのIT（情報技術）企業を中心にAIに対する基本原則を公開する動きが広がっています。
いかにしてAIの異常をタイムリーに検知し、適切な再学習・更新を行い、AIの品質や精度を高め、信用を維持することができるかが、これからの事業経営にとって重要な鍵となります。
Citadel AIは「24時間信頼できるAIをあなたに」をビジョンに、自動化を通じて上記課題を効率的に解決するソリューションを提供します。2021年第4回東大IPC 1stRoundにも採択された、元米国Google BrainのAIインフラ構築責任者が開発をリードするスタートアップです。