Go to contents

THE DONG-A ILBO Logo

AIの第4原則?

Posted August. 02, 2017 07:32,   

Updated August. 02, 2017 08:18

한국어

今年初め、グーグルの人工知能(AI)のスピーカー同士が会話する映像がユーチューブに掲載され、AIスピーカーは当然人間とだけ会話すると思っていた私のような人々を驚かせた。その会話の内容は、「what is the love(愛とは何か)」と尋ねると、「Baby don’t hurt me(子供は私を傷つけない)」と答えるなど、ごちゃごちゃだったが、発展するとどうなるかわからないと思うと、AI同士がコミュニケーションしながら人間の統制から逃れることができるのではないかという不気味な感じがした。

◆実際、AI研究所では、AI同士の会話を多くさせるという。まだAIが正しく語り、聴き分けているかを確認する音声認識が主な目的だが、徐々にAI同士が言葉で知識を提供して収容する能力を試験することへと動いている。たとえば、映画をよく知っているAIが音楽をよく知っているAIと会話しながら、お互いに学習する方式だ。

◆最近、フェイスブックAI研究所のチャットボット二つが自分たちだけが知っている隠語で会話するようなことが発生して、開発者がシステムを強制終了させることが発生した。チャットボット「ボブ」は、「I I can I I I everything else」と語り、アリスは「balls have a ball to me」と最後の「to me」を7回繰り返した。意味の通じない英語だが、速記性隠語である可能性があるように見えた。青少年が大人の理解できない難しい略語で会話するのと似ているというか。

◆ロシア生まれの米SF作家「アイザック・アシモフ」は1942年の短編小説「ランアラウンド」でロボットの3原則を明らかにした。第1の原則は、ロボットは人間に危害を及ぼしてはならず、危険にさらされた人間を傍観してもならない。第2の原則は、ロボットは人間の命令に必ず従うべきであるが、第1の原則に違反する場合は例外だ。第3の原則は、ロボットは自分自身を守る必要があるが、第1の原則と第2の原則に反する場合は例外だ。ひょっとすると、これらの3原則に加えて、ロボットは、人間が聞き取れる正常言語で会話するという第4の原則をもう一つ入れなければならないかもしれない。