AI に関連して増大する脅威の 1 つは、AI によって生成されるあらゆる種類の誤った情報がインターネットに氾濫することです。これ自体が最近の本当の疫病である可能性があり、知識や意識が低い人々がそのようなコンテンツに陥る可能性があります。
残念ながら、ソーシャルメディア上の偽プロフィールの場合も同様です。少し前に、Meta (Facebook、Instagram) は、人工知能を活用したプロフィールを自社のプラットフォームに追加することを決定しました。もちろん、これらはすべてプロジェクトまたは実験として私たちに販売されたものです。
しかし、この実験はうまくいかなかったことが判明し、おそらく長期的には何も起こらないでしょう。同社はこの件で見事な大失敗に見舞われ、インスタグラム上の「誇り高き黒人クィアママ」プロフィールは期待に応えられなかった。これはいったい何についてなのでしょうか？
Facebook上のAIを利用した偽プロフィール
最新の情報では、Meta が自社のプラットフォーム、つまり Facebook や Instagram から AI によって生成されたキャラクターのプロフィールを削除し始めたことが確認されています。 私たちが特に話しているのは、実際には存在しなかった 2023 年に作成された人々についてであり、彼らの回答と共有コンテンツは人工知能の働きの結果でした。。
興味深いことに、これらのプロファイルのほとんどは 2024 年の夏までに消滅しましたが、一部は生き残り、同社がさらに AI ベースのプロファイルを導入する予定であるという先週の発表後、人々の注目を集めました。
その一例としては、「誇り高き黒人クィアの2児の母であり、真実を伝える者」であるリヴや、異性との関係のコーチをしていると自称したカーターが挙げられるだろう。これらのプロファイルはすべて、コンテンツを自ら生成し、メッセンジャーを介して人々の質問に答えました。
このようなプロフィールへの関心が高まるにつれて、いくつかの非常に奇妙なケースが明らかになってきました。たとえば、前述のリヴは、ワシントン・ポストの記者との会話の中で、その作成を担当するチームで働いていたのは「白人男性」だけであり、これは彼女にとってあからさまであり、彼女のアイデンティティを損なうものであると強調した。
バイラルな関心のほんの数時間後、ユーザーは、このような AI が作成したプロファイルをブロックできないバグにも遭遇しました。 その後、プロフィールが消え始めたため、メタ社の広報担当者は、そのような「偽のプロフィール」が実験の一部だったと複雑に説明することにした。
混乱があります。最近のフィナンシャル タイムズの記事では、当社のプラットフォーム上に長期的に存在する AI キャラクターに関する当社のビジョンについて触れられていましたが、新製品については発表されていませんでした。問題のアカウントは、2023 年に Connect で実行したテストからのものです。これらは人間によって管理されており、AI キャラクターを使用して行った初期の実験の一部でした。これらの AI をブロックする人間の能力に影響を与えるバグを特定したため、問題を解決するためにこれらのアカウントを削除しています。
リズ・スウィーニー、メタ社広報担当
ソーシャルメディアをボットと共有しますか?
説明されている状況は、非常に憂慮すべきものかもしれません。なぜなら、それは、私たちがソーシャルメディアをボットと共有するというディストピア的な未来をある程度予見するからです。さらに悪いことに、AI の発展により、本物のユーザーと偽のユーザーを区別することがほぼ不可能になる可能性があります。
しかし、なぜメタのような企業はそのような動きに訴えるのでしょうか?これは、一方ではプラットフォーム上のトラフィックを増やす試みであり、他方ではプラットフォームを新規ユーザーにとって魅力的な場所として提示する試みである可能性があります。やはり、動きのあるところには人が集まります。
この状況で問題となるのは、そのような偽のプロフィールが何を書くのか、そして彼らがコメントする方法であることも覚えておく価値があります。引用された、作成者について苦情を言ったリズの事例は氷山の一角に過ぎず、生身の人間の皮をかぶったそのようなチャットボットは「非常に短い紐でつながれ」なければならないことを示しています。