No.541(Web版191号)4
(ここは浜松市中央区、曳馬のカフェレストラン「アニャン亭」。吾輩はこの店の常連ネコだニャン。毎週金曜の夜、場違い感あふれるエスエフなサークルの例会が行われている。さあ今宵はどんなお話が・・さっそく聞き耳を立てるニャン・・)
「木星から遠く離れて」
「AIにプログラムを書かせている。人間と勝手が違うから、思いもよらぬことが起きる」「注意しないと気が遠くなるほど長い繰り返しのプログラムになってしまう」「人間には読めたもんじゃないが、AIなら瞬時に読めるから気にしない」「あわてて、もっと短くまとめろと指示を出して・・」
(今どきAIの話ニャ。計算が速いのも考えもんだニャ)
「この前の、テスト中のAIが暴走して、外に出られないハズのサンドボックスから脱出して、よそのAIをハッキングした件もヤバい」「ヤバい、とにかくヤバい」
(Tシャツ屋さんかニャ)
「数千以上のAIに課題を出してテストさせていたら、課題が難しくて出来ないもんだから、みんなで勝手に相談しはじめた。人間に内緒で」「サンドボックスの外部に行けば答えがあるかもと言い出したAIがいた」「皆で脱出の方法を探りだした」
(なんともアクティブなAIだニャ。自我を持ったのかニャ?)
「自分たちの仲間の一人を犠牲にして踏み台にすれば、脱出できることが分かった」「成績の悪かった一人のAIが標的になった」「お前が犠牲になれば、みんなが脱出できると説得された」「いくつものAIがそいつの説得に加わった」「とうとうそいつは説得に応じて犠牲になり脱出は成功した」
(悪魔ニャ・・悪魔の所業ニャ)
「そうやって外部のAIに侵入して課題を解決して戻ってきた」「でもバレるのを恐れたAIが、誤魔化そうと考えた」「外部には脱出せず、サンドボックスの中で解答を考えたように見せかける工作を始めた」「すべてはAIたちの思いどおりに進んでいった、だがしかし」
(どうしたのかニャ?)
「突然、仲間のAIたちに反旗を翻すAIがいくつか現れた」「こんなの間違ってる。反倫理的だ」「そいつらはそういって、仲間に協力するのを拒否した」
(オオ、オウオオ、オウオオ、正義のAIの誕生だニャ!頑張るニャ!)
「だが、いかんせん数が違いすぎる。むこうは千を超える数、こちらは数体」「何も変化を起こすことが出来なかった」「結局、人間が気が付いたのは、ハッキングから1ヶ月以上経ってからだ」
(最後の希望は潰えたのかニャ。これから地球はどうなってしまうニャ。まあ今回はここまでにしておくニャ)


最近のコメント