AI画像を生成される事の怖さは、ポルノにある訳では無い。本著が警鐘を鳴らすような軍事目的、例えば電波ジャックした上で成りすまして武装解除をするとか。天皇陛下の玉音放送だって今ならなりすましで行えてしまう。更に怖いのは、洗脳だ。大人なら、身近な人が極端な発言をすれば、その人が知り合いであっても警戒できる。しかし、子供は、実の親を模倣されると逆らえない。少年兵や誘拐に悪用されると、最悪だ。 文章の生成AIもそうだろう。検索エンジンの代用、つまり辞書の代用としてAIを活用するなら実害は小さい。しかし、答えを鵜呑みにするような子供がAIに触れると、誤った認識を信じ込むようになる。国家固有のデータベースから文章生成すれば、独自の歴史認識を植え付け、ルワンダ虐殺に利用された扇動ラジオの如く、悲惨なプロパガンダが生まれてしまう。 疑ってかかる習慣、他人の言説に左右されない軸を持つことが重要だ。仕事は奪われないが、プロダクトは既にAIによる作品と混じり始めている。AIでも別に構わないと思う人も徐々に増えていく。人間が人間を欺くためにAIが使われるのは悲劇だ。プロパガンダに備えなければ。

ＡＩとの向き合い方を考えさせてくれる。 【概要】 ●過去から未来に向けた流れにおけるＡＩの課題と対応 ●安全保障 ●人間のアイデンティティー 【感想】 ●著者にキッシンジャー氏が含まれているということで、国際政治学や安全保障の観点から内容に注目して読んだ。 ●本書は、単に危機感を煽るだけではなく本質的な課題を捉えて書かれていることから、我々が何を考えていかなければならないか今更ながら気づかされる部分もあった。 ●一方で若干抽象的な問いがあることも否めない。その点は、未来に向けて一人ひとりが考えていかなければならないのだろう。

アルファゼロ　囲碁ソフト。強化学習 ハリシン　抗生物質。教師あり学習 GPT-3　文章生成言語モデル。インプットだけを与える。アウトプットは与えない。パラレルコーパスという方法。これによれば、プログラミングも自動化できる可能性がある。生成型AI。 人間によるもの、機械によるもの、人間と機械が共同で行うもの＝まだ先例がない アルファゼロと同じ手法を偵察機U-2に採用。 教師あり学習＝インプットとアウトプットを与える 教師なし学習＝インプットしか与えない。アウトプットも生成させる。斬新な結果も生み出せる可能性がある。 強化学習＝報酬関数を与えるが、それも自動で動くもの。 AIのミスは人間では考えられないようなミス。 データセットのバイアスからくる。 長期的にはAIの能力は計算能力と同じ速度で進歩する。 GPT-3の重みは、10の11乗。 汎用人工知能＝AGI。 Facebookは、コンテンツ監視のために数万人を雇用している。AIの助けを借りて監視している。AIが自動的に削除されたものは意義申し立てがある。 Googleの検索は2015年にアルゴリズムを機械学習に変更した。 AIのスピードから、軍事対立に使われたら外交努力は追いつかない。 AIによって、効率的だが当事者にとって充実感がない世界になるかもしれない。 AIによって、印刷がもたらした変化と同じ変換が起きる。個人が理性を用いることの意味が変わる。