他者に対する偏見を示すことは、高レベルの認知能力を必要とせず、人工知能機械によって容易に示されることができるという新たな研究が示唆されている。
カーディフ大学とMITのコンピュータサイエンスと心理学の専門家は、自律型マシンのグループが、この動作を互いに識別し、コピーし、学習することによって偏見を示すことができることを示しました。
偏見は、人間の認知が特定の人やグループの意見を形成したり、ステレオタイプをとることを必要とする人間固有の現象であると思われるかもしれません。
いくつかのタイプのコンピュータアルゴリズムは、人種差別や性差別などの偏見を既に示していますが、公的な記録や人間によって生成されたその他のデータから学ぶことに基づいていますが、AIが偏見のあるグループを自ら進化させる可能性を示しています。
Scientific Reports誌に掲載されたこの新しい発見は、偏見のある個人や仮想エージェントがグループを形成し、相互にやり取りできる方法のコンピュータシミュレーションに基づいています。
カーディフ大学の犯罪・安全保障研究所とコンピュータサイエンス・インフォマティクス学部のロジャーホイタカー教授は、「これらのシミュレーションを数千から数千回実行することで、我々はどのように偏見があるのか理解し始めるそれを促進または妨げる条件が進化します。
「私たちのシミュレーションは、偏見は自然の強力な力であり、進化を通じ、仮想人口で容易にインセンティブを与えられ、他者とのより広いつながりを損なうことがあることを示しています。このような広範な偏見は逆転するのが難しい」と語った。
この研究からのさらに興味深い発見は、集団内に存在するより明確な亜集団を含む特定の条件下では、偏見が保たれることがより困難であったということである。
「非集団的集団の数が増えると、非偏向的集団の同盟は悪用されることなく協力することができ、少数派としての地位が低下し、偏見の脆弱性が軽減される。彼らのグループの外で相互作用している "とWhitaker教授は結論づけた。
