第251回セミナー報告「ChatGPT‐その実態と負の側面-」2024年3月
2024年 04月 06日科学技術者フォーラム2024年3月度（第251回）報告
「ChatGPT‐その実態と負の側面‐」
日時：2024年3月23日（土）14：00～16：45
会場：品川区総合区民センター（きゅりあん）第１特別講習室 ＋ZOOMオンライン
参加：35名（会場22名、WEB13名）
演者：R&D Consulting + Coaching代表 （元日立製作所生産技術研究所）
工学博士 井上 隆史 氏
【講演要旨】
膨大な講演資料を基に以下のような解説がなされた。
１．ChatGPTとは何か？－技術・本質・課題・限界－
ChatGPTが注目される理由、人工知能（AI)の世界に二種類あるが新しい生成系AIの一つ。ChatGPTの舞台裏、ChatGPTを支える技術、ニューラル言語モデル、大規模言語モデルの進化、大規模化の効果、プロンプトエンジニアリングとチューニング、人手による点数付け結果の活用、ChatGPTの技術到達レベル、ChatGPTの技術的課題・問題点、Bing対話型検索とChatGPT、ChatGPTの特徴、ChatGPTに対する識者の意見、などについて解説。
２．ChatGPTを使ってみた
ChatGPTを試す（12例）、ChatGPTの限界、AIとは「計算」であって「知能」ではない、などについて解説。
３．生成AIを懸念する意見など-メディア報道から-
AI開発中止を求める1000人署名、Geoffrey Everest Hinton、Nick Bostrom（Niklas Boström）、欧州委員会のベステアー上級副委員長、IBMの雇用がAIに奪われるか、スパコン「富岳」で生成ＡＩ基盤技術を開発、国産LLM公開へ、英語の学術論文をChatGPT-4で執筆する際の手順メモ、ChatGPTが加速する国際世論戦争、ChatGPTで得する人々、などについて解説。
４．ChatGPTをめぐる法的問題
著作権、個人情報、有害情報、EUによる規制案、などについて解説。
５．ChatGPTに関わる様々な事件
ChatGPTによる政治・社会への脅威、New Yorkにおける民事訴訟でのトラブル、ハリウッドの脚本家がAI拒否、チャットボットに誘導された自殺事件、米FTCがオープンAIを調査、New York Timesが記事利用を禁止、生成AIによるインターネットの汚染問題、ケンブリッジアナリティカ社事件（参考）、 などについて解説。
６．フェイクメディア問題への対抗策
人間由来情報を用いたフェイクメディア生成、顏を対象としたフェイクメディア、フェイクメディア検出・防御の研究、ミュンヘン工科大学AI倫理研究所、などについて解説。
７．進化する電子機器とAIに振り回される現代
マクルーハン理論、テレビの波及効果－具体的影響と傾向－、電子技術の進化が招く負の効果、生活の大変化とそのストレス、スマホの悪影響、スマホ等の使用時間と子供の学力、教科書が読めない子供たち、IT機器の悪影響を知るIT経営者・技術者、AIの跳梁跋扈が招く世界、科学技術がもたらした負の遺産、AIを元に立ち上がる新たなる情報空間の脅威、工業化・電子化社会を憂いての戯れ歌、などについて解説。
８．参考文献：多数。
【主な質疑応答・コメント】
１． ChatGPTは英語と日本語ではデータ量が違うので英語の方が有利にならないか？
→そういう議論はあるが、結論は出ていない。日本語の世界においては日本語空間で作った生成AIの方が正確なアウトプットを出力するという考えもあり、日本版ChatGPTが制作されている。
２．個人用のChatGPTは出来るか？
→分からないが、気にはなっている。
会場から、「個人用にバージョンアップは出来る」とのコメントがあり。
３． AIの使用は慎重に行かないといけないのでは？
→AIの活用には様々な注意が必要と考える。AIは既に社会の諸相に浸透しつつあり、どこにどう使われているかを弁えて対応すべきと考える。
４． 会場から、「AIは五感の内、視覚と聴覚にしか対応して居ないと」のコメントがあり。
５．中国、ロシア、インド等の状況は？
→詳細は分からないが、中国では独自開発が進んでいる。各国で独自に発展する可能性があり、各国各様の思惑に注意が要る。日本では、メディアも経済界も無批判に「イケイケどんどん」の勢いで推進しており、危険が一杯と見る。
６．専門外のプロンプトに対する出力の信憑性が分からない時にはどう対応すれば良いか？
→国立情報学研究所では、フェイク情報をAIでチェックする方法を研究開発している。しかしフェイク情報が進化するため、フェイクとチェックのイタチごっこになる可能性が高い。細菌と抗生物資のイタチごっこに似る。我々自身が、真贋を見抜く動物勘のようなものを養うべきである。
７．AI時代に対応する教育は？
→電子機器（AI）から離れる時間を積極的に確保する必要がある。子供は自然の中で自由に置くのが一番。自然の妙を味わうことに尽きる。
８．ChatGPTでのビジネスモデルにはどういうものがあるか？
→これからいろいろなものが出てくる。既に出てきている。例えば既に普及している検索エンジンに生成AIをアドオンする際に、生成AI使用料を課金するという提案が出ている。
会場から、Open AIは2,500円／月、スマホは3,500円／年で使い放題の有料のものがあるとのコメントあり。
【所感】
多くの懸念事項を調査・報告して頂いたのはありがたかった。しかしながら、１億人を超えるアクティブユーザーが実際に使ってその有用性を認めている。
ChatGPTもDXの一環だと思うが、重要なことはデータであり多くの工夫がなされている。
【報告者】中津川 健二
