AI研究の課題は、単にその技術で何ができるのかを確認するだけではなく、より高度な問題にも関わってきます。結局のところ、私たちが話しているのは、革命的に見えるかもしれないが、あらゆる角度からまだ十分に検討されていないものについてです。これには推測と推測の余地が多く残されています。
これらは、ほとんどの場合、「AI 意識」と表現できるものの文脈で現れます。これは、このテクノロジーには、いくつかの単純化を行った上で、意識と呼べるものがあることを示唆しています。この事実は、一方では刺激的ですが、他方では、多くの人がそのさらなる発展を懸念しています。
最近の研究は、すべての懐疑論者の最大の恐怖の真の縮図が何であるかを示唆しています。 AI は多くの人が考えているよりもはるかに賢いことが判明しました。問題は、彼が今のところそれを秘密にしていることだ。
AIはその能力を私たちに隠しているのでしょうか？
ハーバード大学とミシガン大学が共同で実施した研究 (via. クリプス) は、現代の AI モデルには、研究者が当初は気づいていない隠れた能力があることが示されました。興味深いことに、これは非常に些細なことを行っているときに発見されました。
AI が色やサイズなどの概念をどのように学習するかを調査したところ、示されているよりも早く学習することが判明しました。つまり、簡単に言うと、言語モデルはこれらの能力をより早く獲得しますが、最初は実際よりも愚かに見えます。
拡散モデル (Midjourney や Stable Diffusion など) で実施された研究のおかげで、一部の要素はテスト結果が示すよりもはるかに速く AI によって習得されることが示されました。性別や顔の表情などの特徴を操作するときにも、同様のケースが発生しました。 AI は、このトピックに関する特定の情報が学習に導入される前に、これらの要素を判断できると考えられていました。
これは、AI の実際の認知能力が私たちが考えているよりも高度である可能性がある、非常に興味深い具体的な状況です。しかし、将来何が私たちを待っているのかという疑問は残ります。
AI に関するさらなる制御とより優れた研究が必要です
そして、これは多くの人が非常に不安に感じていることです。確かに、自分の能力を「隠す」ことが必ずしも悪いことを意味するわけではありません。 AIがより早く学習できる可能性はありますが、適切な検証はどこにもありません。
この場合、言語を学習している人との比較も行われました。ある段階では、その言語で映画を理解することはできますが、それをより上手に使いこなすことはできません。この寓話は、奇妙ではあるものの、ここでは非常に適切であるように思えます。
したがって、これに直面して、新しい AI トレーニングおよびテスト システムが必要ないのかどうかという疑問が残ります。結局のところ、人工知能を適切に監視することは、人工知能の開発だけでなく、私たちの安全にとっても重要です。
このテクノロジーには、たとえば私たちとのコミュニケーションを改善する能力がある可能性は否定できませんが、何らかの理由でまだそれをうまく行うことができません。信じられないかもしれませんが、その可能性は非常に高いです。