私たちはしばらく前からAIのバンキングおよびフィンテックのシステムを構築してきましたが、率直に言って最大の問題は技術そのものではなく、人々がそのプロダクトをどう捉えているかです
ほぼすべての会話は「AIバンキングアプリを作りたい」から始まります。そして本当の意味は、通常のアプリの上に載せたチャットボットがほしい、ということです
それが、たいてい最初に事が狂うところです
難しいのはAI機能を追加することではなく、現実の条件下でシステムが正しく振る舞うようにすることです。詐欺検知はその良い例です。人々は、取引に対してモデルを動かしているだけだと思っていますが、実際には、ロケーションの変化、デバイスのシグナルが変わること、妙なユーザー行動、誤検知、そしてすべてについて説明が必要なコンプライアンスチームからのプレッシャーに対応しているのです
パーソナライズも同じです。誰もが賢い洞察がほしいと言いますが、誰もごちゃごちゃしたデータの扱いをしたくありません。取引データがきれいに整っていない、あるいは適切に構造化されていないなら、「AIによるおすすめ」はただのノイズになります
もう一つの見落とされがちな致命的ポイントがアーキテクチャです。私たちは、層を分離せずにAIをコアのバンキングシステムへ直接つなぎ込もうとするチームを何度も見てきました。デモではうまくいっても、利用が増えるとすぐに壊れます。データ用の適切なパイプライン、モデル用の別レイヤー、そしてすべてを継続的に監視する方法が必要です
コンプライアンスは、本当の意味で現実になります。KYC、AMLなどは、あとから後付けできるものではありません。それらが、システム全体の設計に影響します。そしてAIが関わる場合は、ほとんどのチームが想定していないことですが、なぜそのシステムがある判断を下したのかを説明する必要もあります
私たちがよく見かけるパターンの一つは、実際に機能するアプリは1つか2つのことに絞って、それをきちんとやっているということです。詐欺検知、引受（アンダーライティング）、財務インサイトなど。すべてをやろうとするものは、結局のところ何も十分にできないまま終わることが多いです
また、多くのチームは、これがどれだけ継続的な作業になるのかを過小評価しています。モデルの更新、データの変更、ユーザー行動の変化。これは「一度作って終わり」系のプロダクトではありません
[link] [comments]
