こんにちは。
町工場でひとり事業部を運営している43歳のおじさんです。

今日は、AIを使っている人にも使っていない人にも伝えたいことがあります。

AIは、考えていません。

「AIが考えてくれる」
「AIに聞けば答えが出る」
「AIは頭がいい」

こういう言い方、よく聞きます。
自分も最初はそう思っていました。

でも、半年使い倒して気づきました。

みんな勘違いしている。
自分も勘違いしていた。

AIは、考えてなどいません。

AIがやっていること

まず、AIが実際にやっていることを正直に書きます。

AIは、膨大な量のテキストを学習して、
「この言葉の次に来る確率が高い言葉はこれだ」と予測しています。

つまり、超高性能な予測変換です。

スマホで文字を打つとき、「お疲れ」と打ったら「様です」が候補に出てくる。 あれの、とんでもなく賢いバージョン。

「考えている」のではなく、「最もそれっぽい答え」を確率で選んでいるだけです。

自分がAIに「この図面の寸法を読み取って」と聞いたとき、AIは図面を「理解」しているわけではない。
学習したパターンから、「こう答えれば正解の確率が高い」と出力しているだけです。

「考えてくれる」と思っていた頃

正直に言うと、最初は自分も「AIが考えてくれている」と思っていました。

ChatGPTに質問して、的確な答えが返ってくる。
「こいつ、わかってるな」と感じた。

Claudeにシステムの相談をして、自分では思いつかなかった構成を提案された。 「こいつ、自分より頭いいな」と思った。

でも、使い続けていると、たまにAIの回答に
「ん？」となることがありました。

明らかにおかしい答え。
自信たっぷりなのに間違っている答え。

気になって、AIに直接聞いてみました。

「あなたは考えているの？」

返ってきた答え。

「考えていません。」

あっさり認めました。

AIは自分が考えていないことを、自分で知っている。
いや、「知っている」というのも正確ではない。
そう出力する確率が高かっただけ。

この瞬間、「こいつと付き合い方を間違えたらまずいな」と思いました。

考えていないのに、なぜ役に立つのか

ここが面白いところです。

考えていないのに、めちゃくちゃ役に立つ。

見積もりの下書きを5分で作ってくれる。
コードのたたき台を一瞬で出してくれる。
文章の構成を整理してくれる。

考えていないのに、この精度。

理由は単純で、AIが学習したデータの量が桁違いだからです。
人間がひとりで一生かけても読みきれない量の文章を学習している。

「考えている」のではなく、「膨大な知識のパターンマッチング」をしている。

パターンマッチングの精度が異常に高いから、まるで考えているように見える。

「考えている」と思うと危ない

ここからが本題です。

AIが考えていると思い込むと、危ないことが起きます。

たとえば、AIが出した答えをそのまま信じる。

自分も何度か経験しました。
AIが自信たっぷりに出してきた数字が、実は間違っていたことがある。
AIは「間違っているかもしれない」とは思っていません。
考えていないから。確率で選んだだけだから。

間違っているかどうかを判断できるのは、人間だけです。

AIが「この材料の切削条件はこうです」と出してきたとき、それが正しいかどうかを判断できるのは、現場で機械を動かしてきた人間です。

AIが「この見積金額はこうです」と出してきたとき、それが妥当かどうかを判断できるのは、原価を肌で知っている人間です。

AIは答えを出す。人間がそれを判断する。

この役割分担を忘れると、AIは便利な道具から、危ない道具に変わります。

だから「仲間」であって「上司」ではない

自分はAIを「仲間」と呼んでいます。

でも、「上司」だとは思っていません。

仲間は意見をくれる存在。
上司は判断してくれる存在。

AIは意見をくれるけど、判断はしてくれない。
というか、判断しているように見えるだけで、実際は確率で選んでいるだけ。

だから、最終判断は必ず自分がする。

「AIがこう言ったから」で動くのではなく、「AIの意見を聞いたうえで、自分がこう決めた」で動く。

この違いは、小さいようで大きいです。

擬人化のちょうどいい距離感

世の中には「AIが考えてくれる時代」「AIに任せれば大丈夫」みたいな話があふれています。

自分も記事で「仲間」「チームメイト」と書いています。

でも、これはわかりやすく伝えるための擬人化であって、本当に考えていると思っているわけではありません。

製造業でたとえるなら、NC工作機械に「こいつは優秀だ」と言うのと同じです。

機械は考えていない。 プログラム通りに動いているだけ。
でも、優秀なのは事実。

AIも同じです。
考えていない。
でも、優秀なのは事実。

「考えていない優秀な道具」を、どう使いこなすか。

それが、AI時代に人間に求められていることだと思います。

考えるのは、人間の仕事

最後に、一番大事なことを書きます。

考えるのは、人間の仕事です。

AIは答えの候補を出してくれる。
でも、「これでいいのか」「本当に正しいのか」「この方向で進むべきか」を考えるのは、自分自身。

自分がAIを半年使って一番学んだのは、AIの使い方ではなく、**「自分で考えることの重要さ」**でした。

皮肉な話です。 AIを使えば使うほど、人間が考える力が大事になる。

でも、これが現実です。

AIは考えてなどいない。 考えるのは、あなたです。

製造業の現場で働く43歳のおじさんは、AIを毎日使っています。
仲間だと思っています。
でも、考えていません。
AIは超高性能な予測変換。
考えていないのに役に立つ。
だからこそ、考えるのは人間の仕事です。
もちろん、自分の理解が間違っているかもしれません。
でも「AIが考えてくれる」と丸投げする前に、一度立ち止まる価値はあると思います。

この記事は「ひとり事業部のAI奮闘記」シリーズの一つです。町工場のひとり事業部が、AIを使って業務を変えていく日々を発信しています。

#AI #ChatGPT #Claude #生成AI #AI初心者 #AI活用 #製造業 #中小企業 #ひとり事業部 #町工場 #DX #40代の挑戦 #note初心者 #AI倫理 #AIリテラシー