目次
『AIテックを抑え込め！』は必読書！
最近、『AIテックを抑え込め！』という本を読んでいます。
☆ゲイリー・マーカス,2025,『AIテックを抑え込め！』の詳細とお求めはこちら→https://amzn.to/4jJHqcO
生成AIが社会に急速に浸透し、
「AIがすべてを変える！」
「人間の雇用がなくなる」
などとよく言われるようになりました。
「AIが意識を持つようになるのではないか」
という意見もよく言われています。
ですが。
この本は昨今のAIブームについて冷静かつ批判的な視点を提示しています。
本書の一番の特徴は、
いま私たちが使っている生成AIは本当の意味での「人工知能」ではないという点を
何度も解説しているところです。
生成AIは、あくまで大量の言語データを学習し（だからこそ「大規模言語モデル」といいます）、「もっともらしい言葉の並び」を確率的に出力しているに過ぎません。
創造性があるわけでも、意味を理解しているわけでもありません。
にもかかわらず、現在のAIは「万能ツール」であるかのように語られ、
過剰な期待と宣伝が先行している。
本書はまずこの点を批判していきます。
生成AIは「賢い」？ 大規模言語モデルの限界
生成AIの正体は、大規模言語モデル（LLM）です。
言葉のパターンを膨大に学習し、「次に来そうな単語」を選び続ける仕組みで動いています。
（厳密にはベクトル計算などを行い確率的に処理をしています）
その結果、人間が書いたかのようにまとまりのある文章・もっともな文章をすぐに出力してくれます。
また、時折 確率が低いものも選ぶようプログラミングされているため、
指示するたびに出力内容が異なるなど回答にバリエーションが生じるように設計されています。
ですが。
生成AIはその構造上、ハルシネーション（幻覚）を発生させるという致命的な問題を抱えています。
事実と異なる情報を、あたかも正しいかのように断定的に述べたり、
存在しない文献やデータを平然とでっち上げたりします。
（生成AIがありもしない情報を作る理由、実はよくわかっていないそうです）
ChatGPTなどの生成AIをどれだけ改良しても
このハルシネーションについて改善は出来ていません。
ツギハギ的に修正はできても、根本的な限界は残り続けているのです。
なので本書では
〈生成AIの研究を続ければ言語の意味を理解した真の人工知能が出来る〉という考えを
批判しているのです。
AIテックの横暴を許すな！
本書はさらに昨今のAI開発を行う企業（AIテック）が
著作権や個人情報を
さも当然のように無視し行動している現実に警鐘を鳴らします。
（ChatGPTが「ジブリ風のイラスト」を作ってくれることが
2025年話題になりましたが、
これが出来るということはジブリの著作権が侵害されているということでもあります）
（ジブリ風にしたフジモトプロフィール画像）
こういう具合に
AIテックが好き勝手している状況で本当に良いのか。
何らかの規制が必要ではないか。
本書ではその点を指摘しているのです。
OpenAIなど生成AI開発をおこなっている企業は
口では生成AI研究を「人類のため」「社会の進歩のため」と言っています。
ですが現実には
圧倒的なスピードで既成事実を積み上げているのが実態です。
著作権はどうなるのか、
クリエイターの仕事は守られるのか、
AIによって仕事を失う人をどうするのか、
AIの回答によって発生した損失について誰が責任をとるのか。
こういうことがあまり議論されることなく
ただ技術だけが開発されている状況に警鐘を鳴らしています。
「やったもん勝ち」「生成AIの技術開発が問題を解決してくれる」
という雰囲気もあります。
だからこそ
いまの生成AI開発の現状に
「本当にこれでいいの？」
と問題提起を本書では行っているのです。
（以上、フジモトなりの要約でした）
規制は難しい、しかし「無防備」はもっと危険
私個人の意見として、生成AI開発には何らかの規制が必要と考えます。
そうでないと、
著作権・個人情報などの基本的な権利が侵害されるだけでなく、
取り返しのつかない問題を今後生じさせる可能性があると考えるからです。
ですが、実際の話
規制を行うのって難しいでしょうね…。
規制をすると絶対どこかが「抜け穴」を探そうとするでしょうし、
仮に欧米諸国や日本で生成AI開発の規制を作ったとしても
それ以外の国が勝手に研究を続ける可能性もあります。
それでも「何でもあり」に暴走する
AIテックの現状について考えていく必要があると思うのです。
生成AIに作らせた論文をそのまま投稿する研究者たち。
さて、本書で私が面白く感じたのは
「規制をどう設定するか」というところではありません。
そうではなく、研究論文の世界にまで
生成AIが入り込んでいるという「事実」を提示しているところです。
大規模言語モデルは科学界をも汚染している。
2024年2月にはすでに多くの科学雑誌が、生成AIが生み出した不正確な情報に基づいた記事を受け入れ、発表さえするようになっている。
滑稽にも、チャットボットを利用した証拠を最露している論文さえある。
たとえば、バッテリー化学に関する中国のある論文は、「わかりました。そのテーマに関する序文の一例を以下に示します」という言葉で始まっている。
また、「最後に知識を更新した時点では」という語句が登場する論文の数は、2024年3月時点で180を超える。
論文の査読に生成AIが利用されているケースがあるとの調査結果もある。
このような事態が、発表された論文の品質に影響を及ぼさないはずがない。（ゲイリー・マーカス『AIテックを抑え込め！』Kindle版77ページ/297ページ）
早い話が、
生成AIで論文を書かせ、
それをそのまま投稿している研究者が
（残念ながら）すでにたくさん存在しているのですね。
（「わかりました。そのテーマに関する序文の一例を以下に示します」で
始まる論文が学術雑誌に掲載されるというのははもう「世も末」感があります…）
で、訓練を受けた研究者でさえ生成AIで作ったと
思われる論文を作っているということは、
大学生や大学院生の作るレポートなんて
それこそ生成AIフル活用で作られていることでしょうね…。
もちろん、「絶対に使わない」と決めている人もたくさんいるでしょうけど、
ついつい「生成AIに任せちゃえ」と安易に使っている人も一定数いるはずです。
…実際、大学で講師をしている先輩の話では
「ChatGPT の回答は必ずしも正しいとは限りません。
重要な情報は確認するようにしてください」
というChatGPTの「末尾」につく言葉が
そのまま入ったレポートが学生から提出されたことがある、といいます。
（これも本人が気づきそうなもんですけどね…）
それくらい生成AIは学術論文なり学術研究の世界を汚してしまっているのです。
生成AIは麻薬だ。一度使うと、戻れなくなる危険性…
「生成AI」って麻薬や覚醒剤と近いように思います。
大学・大学院のレポートや研究論文に使用することは出来るのですが、
一度使ってしまうと「濫用」してしまう可能性が高まるのです。
一文字一文字キーボードで原稿を作るのって
ハッキリ言って苦痛です。
書いても書いても終わらないので
「生成AIに丸投げしたい」
という欲望が常に湧いてきます。
で、その誘惑に負けて丸投げしてしまうと
次から自力で原稿を書くのがバカバカしくなってしまいます。
「生成AIは便利だから全部まかせてしまおう」
そうなってくると、
もはや誰がレポートや論文を書いているのか
わからなくなってしまうのです。
もちろん、今の大学・大学院生活で生成AIを一切使わずに過ごすのは、
もう不可能でしょう。
文献検索や要約作成、英語表記のチェックなど、
補助的な用途で使う価値は確実にあります。
ですがレポートを丸ごと書かせたり
研究計画書を全部代筆してもらったり
課題小論文をそのまま提出したりするのに生成AIを使ってしまうと
「自分で書く力」が確実に衰えていきます。
便利さと引き換えに、取り返しのつかないものを失う。
まさに生成AIは麻薬や覚醒剤にも近い存在なのだと
感じているのです。
大学院で学ぶ意味は、どこにあるのか
大学院って、
単に「修士号」という学位を取る場所ではありません。
論文を書く力、思考を言語化する力、問いを立てる力を鍛える場です。
そこを安易にAIに丸投げしてしまったら、
「大学院に行く意味」そのものが失われてしまいます。
私は、1対1大学院合格塾で
小論文や研究計画書の書き方などを受講生の方に
日々お伝えしています。
また「ビジネス文書作成能力向上研修」など、
文章の書き方をお伝えする研修も定期的に行っています。
生成AI時代であっても、
大学院で研究を進めるには
自分の力で考え書く力が必要不可欠です。
それに、
生成AIがないと文章１つ書けない人間になってしまうのは
どう考えも「問題」だと思います。
生成AIは便利ですが、
生成AIに頼り切ってしまうと人間の知能が伸びなくなってしまいます。
だからこそ、生成AI時代こそ
自分の力で考え書く力は
より必要になっていると言えるのです。
（タイパ良く「修士号」を「買う」だけなら
生成AIに全任せでいいんでしょうけど、
それってもはや何ら教育的意義も
研究活動も行っていないことになってしまいます）
使えるけれど、使わない。これが美学。
なお、私は研究において生成AIを全否定しているわけではありません。
基礎的な調査をしたりアイデア出しをしたりする段階では、
AIを使ったほうが効率が良い場面も多くあります。
私自身も、そうした使い方をしています。
ですが、実際のレポートや論文執筆の際、
安易に使ってしまうのは危険であると感じています。
生成AIを「使える」場面であっても
あえて「使わない」。
こういうのは美学の問題ですが、
こういう美学こそ研究者の「誇り」であると思います。
（そういう誇りを失っている研究者がすでにたくさんいるんですけど…）
せっかく大学院に行くのならば
こういう「美学」も大事にする必要があるのでは、と思うのです。
今こそ、文章の基礎を学び直す意味
生成AIが当たり前になった今だからこそ、
文章の書き方を基礎から学ぶ意義はむしろ高まっています。
大学院受験での小論文試験や研究計画書作成、面接試験において
最終的に求められているのは「その人自身の言葉」で説明すること。
安易に生成AIに頼っていると、必ずどこかでボロが出てしまいます。
自分で書く力を鍛えてきた人はそういう場面で差がつくのです。
だからこそ、
生成AIを安易に使うのではなく
自分で考え書く力をいまこそ学んでいたほうが良いのですね。
『AIテックを抑え込め！』を読んでみて
生成AIブームに踊らされることなく
自分で考え書く力を磨いていく重要性を改めて感じました。
特に、大学院に行って研究をしたいという人は
レポート・論文作成に生成AIを安易に使わないという
美学を持つべきだと思います。
使えるけれど、使わない。
頼れるけれど、依存しない。
生成AI時代に大学院受験をする場合
このことが何よりも大事だと考えています。
若干面倒でも「自分で考え書く力」を磨いていきましょう！
私もサポートしていきます！
「大学院受験の対策方法をもっと詳しく知りたい…」
そういうあなたのために、
「本当に知りたかった！社会人が大学院進学をめざす際、知っておくべき25の原則」という小冊子を無料プレゼントしています！
こちらからメルマガをご登録いただけますともれなく無料でプレゼントが届きます。
データ入手後、メルマガを解除いただいても構いませんのでお気軽にお申し込みください。
なお、私ども１対１大学院合格塾は東京大学大学院・早稲田大学大学院・明治大学大学院・北海道大学大学院など有名大学院・難関大学院への合格実績を豊富に持っています。
体験授業を随時実施していますのでまずはお気軽にご相談ください。
（出願書類の書き方や面接対策のやり方のほか、どの大学院を選べばいいのかというご相談にも対応しています！）
お問い合わせはこちらからどうぞ！
『AIテックを抑え込め！』は生成AIブームを冷静に見直す必読書！生成AIって次に来そうな言葉を確率的に処理しているだけであり真のAIとは全く違う存在だと本書は指摘します。ハルシネーションや著作権問題など生成AIの分野は深刻な課題を抱えています。実は学術研究の世界でも生成AIによって作られた論文が多数存在しています。こういう時代こそ自分で書く力を高めていくことが必要だと言えます。