AI の応用と、その利用がクリエイティブ産業をはるかに超えているという事実については、多くの話題があります。結局のところ、このテクノロジーは産業、分析、ヘルスケアでも使用できます。しかし、それだけで終わる必要はなく、ほぼすべての職業が人工知能を使用することができます。
ただし、依然として非常に信頼性が低く、安全でないツールである場合があることを覚えておく必要があります。したがって、人工知能ベースのツールが提供するすべての結果を常に考慮する価値があります。
アメリカの法執行官はこれを非常に明確に発見しました。ワシントン・ポストによる最新の分析では、AI の不正確さと人間の過失が組み合わされると、本当のドラマが起こる可能性があることが確認されています。
人工知能のエラーが不当逮捕につながった

ワシントン・ポストは、警察官、弁護士、検察官の警察報告書、ファイル、アカウントのデータを分析して、これらの職業におけるAIの潜在的な参加と有効性を確認することを決定した。これは決して珍しい現象ではないことが判明しましたが、一般に言及されることは非常にまれです。なぜ?理由は平凡です。法執行機関がそのようなテクノロジーを使用するのを誰もが喜んでいるわけではありません。
しかし、このような場合に AI を使用することにはかなりのリスクが伴うことがわかりました。不当逮捕があった、それが起こったのは… 警官らは顔認識システムの結果のみに依存し、捜査の重要な要素を省略していた。そのため、DNA痕跡や指紋は採取されないことが多く、アリバイも確認されなかった(!)。
状況はあまりにも奇妙で、容疑者の無実を示す明白な証拠を無視するケースさえある。一例として、銀行口座の分析が不足していたにもかかわらず、警官が偽造検査の疑いで男性を逮捕した状況が挙げられる。これらは大きな見落としであり、基本的には容認できません。もう一つの例は、車を盗んだとして逮捕された妊婦の事件ですが、興味深いことに、目撃者は明らかに妊娠していない人物を指していました。
しかし、そのような場合はどうなったのでしょうか?これは、実験室以外の条件下では顔認識技術が制限されていた結果であることが判明しました。皮肉なことに、これらの事故には、いわゆる「人的要因」も関係しています。これらは、人が自動的に AI の機能を過度に信頼し、他のより合理的な前提を無視した状況です。
決して十分に注意することはできません
ここで説明した状況は、最も開発された AI モデルであっても信頼性が低い可能性があり、その結果が非常に深刻であることを最も明確に示しています。同時に、これは、人工知能に取って代わられるまでにはまだ長い道のりがあると懸念している多くの人たちへのシグナルでもあります。
それにもかかわらず、セキュリティ サービスがそのようなソリューションを使用しているにもかかわらず、それを公に自慢していないという事実を無視することはできません。正当な理由がある限り、おそらく問題はありません。明らかな間違いや虐待となると、さらに悪いことになります。したがって、その数ができるだけ少なくなるように祈ることしかできません。