高度な倫理観を持つAIはどのように生まれるのか
前回（2023年3月号）掲載したコラムで、大規模言語モデルに社会性や複数のモダリティ（言語以外の視覚や触覚など）を加味する必要性があると書いた。特に社会性に関して、筆者（Yamane,Mori,Harada:IPM 2021）と周辺の研究の一部を紹介する。
「ユーモアから誘発されるおかしみの感情」や「モラルの基準に照らした正義感」を覚えさせる文章を自動で生成させることは、人間と親和性が高いAI構築への大きな一歩である。ユーモアは人間の生活を豊かにするものであるが、中には道徳性が欠如しているために人々を楽しませることができないジョークもある。モラルを担保し、それでいて面白いユーモアに対する潜在的需要があるといえる。
ここで考案したのが、道徳的な基準に基づいてユーモアを選択可能なメカニズムである。
まず、候補となるジョークの生成を行う。具体的には、膨大なWeb上のテキストから構築された言語データベースを用い、様々なテンプレートパターンを用いてジョーク候補の生成を行う。ここで、他人が何を考え、何を感じているかを推論し、その推論に基づいて特定の状況下で相手の行動を類推する「心の理論」を考慮したテンプレートパターンも用いている。
次に、生成されたジョークの選択を行う。具体的には、リカレント・ニューラル・ネットワークの...
あと60％
