チャットボット – 親友か敵か

危険な傑作:
これらのチャットボットは私たちの日常生活に大きな変革をもたらしますが、時には人間にとっても危険なツールになることがあります。

いくつかの衝撃的なケースを考えてみましょう。

人類をその壊滅的な影響から防ぐために、マイクロソフトの悲惨なテイ実験は、24時間以内に人種差別的な特徴を獲得したため、最も顕著な例のXNUMXつです。

彼女が言ったことの多くには、「ブッシュは9/11をやったし、ヒトラーは今の猿よりも良い仕事をしただろう。ドナルド・トランプが我々の唯一の希望だ」、「繰り返してください、ヒトラーは何も悪いことはしていません」そしてテッド・クルーズはキューバのヒトラーだ。

24 時間以内に、このチャットボックスは「人間はとてもクールだ」という発言から完全にナチスになりました。

Twitter のジョーカーや変人たちに無邪気な「若い 10 代の少女」 AI を導入した Microsoft には本当に責任があるのでしょうか?おそらくそれは、テイの反応が Twitter 上で人間から得たものをモデルにしていたからではないでしょう。

Tay は若い消費者の心を盗むことで企業に利益をもたらすように設計されていますが、どういうわけかその目的の空虚さを反映しています。

人工知能のもう 1 つの失敗例は、Facebook によって作成された 2 つのボットである「ボブ」と「アリス」の例です。 Facebook AI Research (FAIR) チームは、これら 2 つのボットが独自の言語で対話し始め、人間が生成したすべてのアルゴリズムに抵抗していることを発見したため、これら 2 つのボットのスイッチをオフにしました。

ニューラル マシンを賢明かつ賢明に使用します。
チャットボットは私たちの味方にも敵にもなり得ます。チャットボットは建設的または破壊的に学習するため、それは私たちがどのように使用し、対話し、設計するかによって決まります。

したがって、チャットボットには人間が制御するプロトコルが必要であり、その設計は慎重な計画に基づいて行われる必要があります。人類をその壊滅的な影響から防ぐために、チャットボットは規律ある方法でモデル化されるべきです。