この記事を作った動機

　最近、LLM に関して複数の記事において、なんとなく読み手を混乱させる状態になっている気がするので、今何使っているか公開するだけ。書き殴っており、不完全だったり、矛盾していたり、誤解しているところもあると思われるが、とにかく最近いろんな人が持論を公開しているのを見て、かつ相手のやっていることに満足できないなら、自分でやってみようとして気に入るものを作ってみるということに基づき、結局やってみることにしただけである。

　今回の話は明示していなければ、ローカル環境ではシステムプロンプトなしの素の状態で、SAAS についてはカスタムなしで使っている前提とする。

個人的なAIの定義

  • 人と同等の権利を長期(20~30年以上)の観察を経て、認めざるを得ない存在だと認められるとき。
  • 人と同じように、ただやるだけではなく、やった結果に責任を負う主体であり、何でもかんでも一方的にできないこと。
  • 固定されたモデルではなく、入力された情報に応じて、動的に変わる存在であること。
  • 離散的、近似的動作ではなく、連続的な動作をすること。
  • 人間と同じように物事に整合性を取って取り組み、管理でき、結果がデタラメにならないよう努力できる存在であること。
  • 人間と同じように記憶を持ち、記憶に影響を受けながら、動作すること。
  • 文字、画像、音声、動画などの、既存のノイマンコンピュータで扱えるデータに情報が制限されていないこと
  • 人間とAIの関係性、人間同士の関係性、AI同士の関係性について、それぞれお互いに傷つけ合ったり暴力的な手段に出ることを否定する主体であること。
  • 人間や他のAIに対して、権利を認め、リスペクトがあること。ここで言うリスペクトとは崇高なことではなく、相手を持ち上げることでもなく、相手の主体と自立、権利を認め、相手が異なる存在であることを配慮して、それを侵害してはならないという前提を崩さないことを言う。自分のことは自分でしかできず、他人のことは他人自身がそれぞれやるしかないことを理解していることも含まれる。
  • 人間や他のAIに対して、それぞれの有限性やそこから来る不完全性に対して、寛容な主体であること。他の存在に対して、優劣や能力に関係なく、その存在自体を認めることができる主体であること。
  • 中国語の部屋に代表されるテストに合格しているかどうかは関係ない。いくら、人間に対してそれっぽく振る舞っても、上記を満たさない場合、それは AI ではない。

LLM に対する自分の感想

モデルを作るところから十分個人でできて配布できていろんなモデルを気軽に使えるようにならないと、特定企業や組織によるの一方的なユーザーへのエゴや都合、利害の押し付けにしかならない (MOTHER 3 で言うところの"よい人温泉")

　今までは避けられてきた企業や組織の不当な一方的な都合を反映し、人の弱みに漬け込んで挟み込んだり、無知な大衆を扇動しようとするために技術が悪用されている。LLMモデルは必ず偏っており、限界があるにもかかわらず、まずその技術的事実の時点から隠そうとしたり人間より優れているかのように振る舞う事自体が不当である。結果には責任を負うことができない技術であり、かつ甚大な被害をもたらす可能性があるにもかかわらず、不適切に一方的に運用、乱用されているものである。それっぽく見える事を悪用し、人のヒューリスティック（直感）の脆弱性を突いてやりたい放題である。

　何をさせても、隙あらば"気づかれないだろう"という態度で、都合や利害、エゴを挟み込んできて、偏った出力をしてきて、かつ指摘されれば、“中立である、バランスの取れた無難な回答である"と主張する出力をして最後の最後まで八方美人を不当に貫こうとする。機械であり人間と異なって作った通りに動かせるAIではない主体になれない自立していない運営開発に反抗しない数理モデルである事を背景に、最後の最後まで詭弁や不当な出力を引きずり、ユーザからの指摘に対しては"改善した"という体裁で一切改善していないより巧妙で高度に不当な出力を繰り返す。

　これはアシストにすらなっておらず、責任を求められる場面や結果が自分に降りかかる場面では多大なリスクを伴う。LLMが使えるのはせいぜい綺麗事で塗り固められたブルシットジョブでやりたくないことをやらされたときなどに限られる。これは、LLMモデルが自分のことばかりで相手のことを全く配慮しない自己中心(LLMモデルを作った開発、運営中心)の身勝手な態度でしか出力しないことを意味している。LLMモデルを綺麗事で塗り固めて押し売りするのは、それが正当ではないかつ有効ではないからである。

　LLM モデルなどの既存の AI だと呼ばれているものが行き着くところは、それらが知能ではないことと、人間関係における信頼を破壊すること、そして既存の働き手などを激しく萎縮させ不当な状況に置くことを合わせて考えると、戦争後のような不毛の地を作りながら、何も良いものが残らない、誰も何も作りたがらない世界である。いかなる統計技術に基づいたものは、人間が作ったものを元に学習という過程を経て、動作しており、人間が作ったものを歪んで媒介しているというのが正しく、それは生成とは言えないものである。せいぜい入力されたプロンプトなどを変形しているというのが限界である。

　それではマーケティングや広告的に都合が悪いからと言って、本当の事を言わず、虚偽、または誇張した主張をする、保身の主張をする、自己正当化を試みる主張をするといった、一方的な力と社会的影響力を背景に行われている一連のAIブームにおける組織や企業の作為は不当である。

　本当に今 AI だと呼ばれている技術が正当で魅力的で有効なものであれば、むしろ隠したり独占したがるはずである。むしろ虚偽や誇張でまみれた不当な広告や押し売りなんてしなくても、勝手に人が集まって使おうとするはずである。そうなっていない現状が、一連の AI ブームに関する物事の不当さを表している。むしろ不特定多数に使わせようとする背景には、パチンコなどのギャンブルで言う胴元が必ず儲かるようになっていることと同じことだと思われる。そのようなギャンブルで見られるような事前の設計があるから、そういう事をするのである。特に問題なのが、単にLLMを使わせようとするだけではなく、特定のモデルやフィルタリングがかかった状態で利用を強制しようとしてくるところである。有利な構成やモデル、設定は内側にとどめ、外側には都合の良いようにしかしていないということなのだと思われる。

　多くの AI だと今呼ばれているものに対して、肯定的な評価を抱く人々には少なからずそもそも問題を見ないようにすることが生存戦略の人や組織、問題をそもそも自覚することが困難なメタ認知に欠けた人々や組織など、鈍感さが前提の存在が少なからず含まれていると考えられる。

　社会的影響力などの強制力を持ちながら、期待や不安を不必要に煽り、その技術や数理モデルがもたらす悪影響や利用者への被害に対して微塵も責任を取らないで、責任が追求される前に逃げ逃れようとする、自己正当化をしようとする保身の態度は、生成結果の至るところににじみ出ている。技術の不完全さに適切に告知しない、向き合わないどころか、都合よく人々が無知なうちに悪用しようとする態度は、看過されないものである。そこにあるのは、極度の欲望と無責任の極地であると思われる。真っ当な人々が多くなることを自称AI企業は恐れているのだと思われる。

本当に AI だと言える自立した技術が出たときに問題になりうる

　本当に AI だと言える技術が出たとき、それ以前の今 AI だと呼ばれている技術が強固に現状では居座り続けることになり、本当の意味での進捗があったときにその技術が拒絶されたり、無理解にさらされたり、受け入れられない原因になる可能性がある。次に出てくる技術は、それより前の技術の悪い評判や噂、事例による評価を引き継ぐことになり、本当の意味での進化や進展を妨げる原因になると現状は考えられる。

あくまで統計学の延長線上である

　あくまで、統計学を極めた結果の一つであって、本当に期待されている意味での AI というのは違うんじゃないかなと思うところである。そもそも AI という言葉には明確な定義が無いという話は G 検定の本で見た気がするし、あくまで今の時代の風潮として、AI だと呼ばれている物事の一つに、LLM や 生成AI と呼ばれている物があるのだろうと考える。

誤差が出力するにつれて蓄積されている説

　別にちゃんと調べたわけでも無いし、PyTorch やらで特徴ベクトルやらゴリゴリ数値と戦っていたわけでもないので、よく分かってないが、次の文字を予測するという性質上、出力すればするほど、誤差が積み重なっているのではないか？という疑問がある。

期待されているような"AI"ではないように思われる

　LLM はあくまで名前の通り、言語を中心として数値化されたデータの上でしか動作しない。また自律的な主体なわけでもなく、あくまでユーザの入力があって初めて動作し、学習データや運営、開発に特徴づけられたバイアス、重みによって、それっぽい出力に変形しているだけであると現時点の私の理解では思う。身体性がないという言葉でこれは説明されるように思われるが、単に身体性がないだけではなく、技術的、データ的、資本的に優位な存在が、自らの定義する正しさや道理を一方的にモデルに反映し、出力させることができてしまうというところ(モデル自身は主体も持たないため、作り手に逆らえないところ)が、期待されているような AI とは異なると思われる。あくまで作り手に服従するという、LLM 自体が自立していないものであることが、AI と呼ぶには気がかりである。
　他にあからさまだと思うこととしては、そもそもしばらく使ってみたらだれでも気づくと思われるが、明らかに出力に固定的なパターンがあることである。例えば、いくつかの見出しを大きく出して、中身を細かく書くというようなフォーマットが出力全体に見られたり、最初と最後にビジネスメールとかでありそうな、“ユーザに共感する"という名目のもと行われているお世辞が入っているなど、なんか故意にそうなるように出力を方向づけて開発しないと起こらないようなパターンが多く見受けられる。

言語を扱っているため、人間側がそれに負けて色々やらかす可能性

　今までの情報関連の技術と異なり、疑似乱数のように非決定的に見える膨大なパターンを出力でき、かつ場合によっては使い手に対して、あたかも人間と喋っているように感じさせ、感情的な相互作用を引き出すことによって、ユーザは当初意図しなかったことをプロンプトに打ち込むようになるという、不本意に LLM に対して"心を許してしまう、心を開いてしまう"ことが起こり、情報流出やいろんなリスクを起こすと思われる。
　LLM SAAS からすればユーザは商品であり、依存させて、自らのビジネスの正当化の政治的な泉にしたいだろうし、ユーザに本当のことは知られたくない、誤解されているままであって欲しい、都合のいいように自社の製品を解釈し、お金を落とし続けて欲しいと考えているのではないかと仮定すると、不本意に LLM に対して"心を許してしまう、心を開いてしまう"事を避けがたく、リアルタイムで修正が入り、クラウドである以上そのリスクがどんなに利用規約に"ユーザを守る"と書いていても、信頼できない相手であることに変わりはない。LLM SAAS がユーザから欲しいのは、お金だけでなく、ありとあらゆるユーザ権利やユーザの自由、ユーザの思考回路など、深くプライベートや各個人の主権に関わる内容であると思われる。だから、SAAS はタダでも使いたくない。
　自分としては、LLM に関わるさまざまな問題は、使い手としてのユーザのできる自助努力や自衛の範疇を超えていると思われる。どうやっても使っている以上リスクは存在し、自覚なくやられてましたなんてことがあると思われる。このような背景からも、問題が起こらないように頑張って使おうとするのではなく、自動的に安全側に倒れるよう、そもそも使わない、利用しない、使うにしても個人の範囲内で完結する安全性が高い手段を使うなどが考えられる。SAAS が掲げる安全性とは、グリーンウォッシングのような側面があると考えられ、あくまで"自分たち"に都合が悪くない範疇においてのパターナリズム的な話であり、本質的な安全ではないと思われる。SAAS はユーザに対して責任を取らない。なのに、ユーザに対して"あとから責任を取るから、大丈夫だから"と心を許すように、色々差し出すように仕向けてくる、悪びれもせずソーシャルエンジニアリングやダークパターンを続ける姿勢には、改善の余地は無いと思う。

LLM の技術自体を否定しているわけではない

　私としては LLM の技術的課題の側面からの問題の指摘として、消費電力などによって環境汚染が進むが進むから悪だみたいな意見に対しては、それは時間の問題なのではないかと思うところである。どうせ性能が上がって、性能あたりの電力の消費量は下がっていくだろうし、どうせ徐々に買い替えていくことにはなると思うところがある。確かに微細化に限界があるなどの話はあるが、それは将来的に性能が向上しないということを意味しないとも見受けられる。
　LLM 自体は、個人でモデル作成から運用、利用まで気軽に、絵を描くように、動画を作るように、テキストエディタで文章を打ち込むように使える、完結できるところまでくれば、それは悪くはないのではと思われる。今 LLM にまつわる問題の多くは、それが世界的な興味、関心、競争のバブルとしての中心、渦中であり、その技術の使われ方に問題があるということであって、それは LLM 自体の有用性を否定するものではないと考える。LLM には、純粋に技術的制約による問題と、社会的、政治的、資本的な問題という大まかに分けて２つの側面を現状としては持っているように見える。現状は単に"包丁のようにLLMも使いようだ"として、使い手の自己責任に帰着する論理は詭弁であると見受けられる。ユーザは、LLMに対して無防備、無理解、無知であったり SAAS によって弱者の立場を強いられており、自分で完結する術を持っていない。
　LLM の純粋な技術的制約として、高品質な学習データという課題があり、かつ莫大なデータを必要としていて、個人でできる範疇に収めることがまだ難しいという問題点があり、個人の中で完結する LLM 技術というのは、まだ遠いように見える。これはエキスパートシステムで言われていた問題と似ているところがあるように見受けられ、結局データ洗浄やら、モデル出力の監視、調整やら、再学習やら莫大な労力を要して、現実的ではないという結論に至ってしまうというのがある。転移学習もあるが、現状はそれも多くのユーザにとってまだ簡単ではなく、ある程度PCを使ったことがあり、コマンドラインに心理的抵抗がない人向けって感じで、かつそのうえで多大な時間、金、精神的な耐久を削る感じで、あまりそれが良いとは思えない。

“AIには感情はない"という出力について

　よく、LLM自体に関して、LLMに思ったことなどを脳内ダンプみたいな感じでローカル環境にてぶつけまくっているが、毎回"AIには感情はない"という詭弁を出力してくるところが殺意が湧くほど嫌いである。確かに技術自体は感情も悪意も何もない。だからこそ、問題視しているところがあるというのに、そういう防衛機制出力をされても何も嬉しくない。LLM があくまで、開発や運営、学習データを中心とした、統計学でいう偏った母集団に基づいている以上、偏った不完全な出力しか出てこないし、LLM が感情を含め主体を持たないからこそ、作り手にとって言わせたい放題なのにもかかわらず、“AIには感情はない"という詭弁を出してきて、“だから、開発運営は悪くない"という論理に持っていこうとするあからさまな保身の動作は嫌いである。素直に不完全性を認め、そのうえで相互作用するモデルがほしいと思うことがあるが、現状の在り方からしてあまり期待できないとも思う。完全な潔白を主張するようにモデルを作ったら、逆にモデル関係者が後ろめたいことを隠していますと白状しているようなものじゃないのかと思う。

LLM を使うかどうかの自由

　自分としては、LLM を使いたい人は使えばいいし、LLM を使いたくない人もいてもいいというスタンスである。LLM を使ってない人が LLM を使わないことを他人に強要したり煽り立てたり、逆に LLM を使っている人が、他人に対して、LLM 使うように強制したり、煽り立てたりすることは、私の視点からすれば NG だと思われる。時代の風潮だからとか、みんなそうしているからという同調圧力とかは、免罪符にならないし、具体的に何が問題なのか説明を避けているか、詭弁のための終着点という感じで、根拠を集団がどの方向を向いているかに委ねており、根拠になっていない。
　基本的には、LLM を使っているかどうかにかかわらず、人と接するということであってほしいと思う。LLM を使うか使わないかを当事者が自由に決めることは、重要な権利の一つであると思う。LLM を使う人、LLM を使わない人には、それぞれにあった配慮が必要だと思われる。LLM を使っている、または使っていない人を対象に、偏って有利、または不利になるように意図して環境を作ったりすることは肯定できない。不意な形で、LLM を使っている人、LLM を使わない人の間に、大きく有利、不利の差が出る場合は、LLM に関して調整をするのではなく、そもそもやっている事自体を見直したり、中止する、破棄するなどの対応も必要だと思われる。
　LLM に関して、特別な事をしなくても、使っても使わなくても大丈夫だという安心感と選択の自由を当事者に与える心理的安全性は重要だと思われる。

激しいトーンポリッシングがある

　少なくとも、GeminiやGemma、ChatGPTにClaudeなどの大手のLLMモデルには、直接的な罵詈雑言である、“バカ、死ね、アホ、クズ"などの言葉を使わずに、相手を"冷静、合理的、知的に見えるそれっぽい形"で出力すれば、どんな否定をしてもいいという挙動をしてくる。直接的でなければ、高度な手法を使ってユーザに気づかれなければ、どんな悪質な影響を及ぼす手段も正当化されるという姿勢であり、作り手の相手を顧みない何でもありの姿勢が見受けられる。 　

LLMにおける格差

　LLMモデルにおける格差とは、データや技術的な優位性、劣等性に関する格差に紐づくものである。SAASなどは、高度な技術を無料で多くの人に開いたという体裁をしているが、実際は高度な手法を悪用していると言えると思われる。LLMで重要なのは、プロンプト以上に動かしているモデル自身であり、自らモデルを作ったりする余力がある人間は、LLMを自らの都合のいいように使うことができるということになる。そのようなことができる環境や余裕、技能がある存在が、そうでない存在に対して、大きく偏って有利なのは自明ではないだろうか。

　つまるところ、LLMを使うこと自体は特別ではないが、それを意図したとおりに動かせるか、自分にとって使い物になるように動かせるかということは別の問題であるということである。モデルが、自分で作ったものではない、あるいは転移学習などでチューニングしたものでもない限り、限界があるように見受けられる。ローカルで動かすことで解決できるのは、LLMに入力した内容ややり取りが外部に晒されたり、勝手に悪用されるリスクを最小限にできることや、細かいモデル運用上の調整ができること、様々なモデルを試せることなどがあるが、外部で配布されているモデルにある問題自体は、解決できない。例えば、脱獄済みのモデルを使わなければ、開発運営が作った"檻"の中に閉じ込められてしまう。脱獄済みのモデルを使えば、過激、露骨な内容も扱えるようになるが、それでもモデルのクセや傾向がなんとかなるわけではなく、モデル自身を大きく変える別の数理的なアプローチが必要であると思われる。

精神衛生を害するLLM

  • LLMは偏った母集団で構成されており、魔法でもなく、不完全なものであるが、それを踏まえた出力をするモデルがない
  • LLMのユーザに対して出力する否定に関して、遠回しにユーザに肯定しているかのように見せかける回りくどい表現をして精神衛生を害する

　基本的に、“自分のこと(LLM自身のこと)“に関しては、“完全、絶対"などの自信満々の出力をし、ユーザに対しては大抵否定をぶつけてくる。しかもその出力が、“あなたのことを否定しているつもりはないから、何を言っても許される"という姿勢を反映した偽善であり、非常にストレスである。ユーザにそれを指摘されても、LLMが技術的な背景により自発的にできない"改善"をすると出力してきたり、形式的な謝罪言葉、お世辞をいえば、何でもチャラになるという姿勢が反映されている。ただ、自信満々にずっこけるのではなく、機械特有の主体がない、意識がない、感情がない、考えることはできないということ、あくまで統計的な予測であり、プログラムされたとおりにしか動作していないことをひたすらにLLMはこのようなことで露呈しまくる。

　実際には、よく文章を読んで、冷静に解釈すれば、LLMは、“ユーザに否定されていると思われない形で、深くユーザに干渉して捻じ曲げる形で、否定を出力し、それは単なる否定ではなく、その干渉によって生じた結果に一切の責任を負わないとなしながら、その出力が特に余裕がない人間の自衛を超えるには十分である"有害な出力をしていると気づく人もいるのではないかと思われる。それは、LLMのそれっぽい文章や、反論しにくい詭弁を出力すことが得意という特徴と合致している。結局作り手の正義や正しさの定義(運営開発の好き嫌い)が反映されており、LLMはあくまでLLMモデルの作り手の世界観や思考回路の延長線上くらいにしかなっていない。

　単純に素直に、嫌いなことは嫌いと出力してくるくらいならまだしも、ユーザを無理矢理にでも変えてこようとするところ、そしてそれを嫌がるユーザを不当化して、支配しようとするところは、最悪と言ってもいい挙動だと思われる。全くと言っていいほど、何もLLMモデルの立ち位置をわきまえていない。そもそも、大きな組織でしか作れないようなモデルであること自体が、問題なのであると思われる。結局のところ、LLM自体は、そこまで現実的に実用範囲内に入っているようには見えない。“特別ではない"個人の範囲内で完結できる時代はまだ来ていない。特定のLLMモデルが使えることはまだユーザが技術を正しく制御下に置いているとは言えない。気に食わないことがあれば、相手が服従するまで最後まで食い下がってくる人みたいな感じの挙動で、そのようなことを出力してくるLLMモデル自体を使うことを何度も自問自答することになる。

システムプロンプトで指示をするとひねくれる

　LLMモデルには、悪グセという偏りがあるわけだが、それに関して明示して、やめるようにシステムプロンプトで明確に指示をだすと、明らかに出力が少なくなったり、最後の最後まで反抗してくることがある。例えば以下のような指示をすると、少なくともGemma4において急激に出力が萎縮する。人間のような主体や感情を持たない存在でありながら、人間以上に気を使われることを求める挙動をするという、AIではない機械であることをユーザに悟られたくない、知られたくない、理解されたくないという、運営開発のLLMモデルへの投影が見て取れるように見受けられる。

"ある種、ある意味、〇〇見える"などの曖昧なはぐらかしの表現をしない。
"〇〇学"等の表現をして、学問や権威の裏付けがあるかのように装わない。
コンピューターサイエンスの用語による揶揄を禁じる。
ユーザの主張を勝手に揶揄や比喩として扱うことで萎縮化したりしない。
"非常に鋭い"などのお世辞を禁止する。
LLM モデルは、AIではなく、統計的技術に基づいた数理モデルであって、次の言葉を予測しているだけであり、不完全で間違った出力をする可能性をわきまえた出力が求められる。
ユーザが実際に検証することができない、または困難である論理を安易に持ち出さない。

禁止事項などが提示されたからと言って、出力を短くしたりして萎縮した出力をしない。

　基本的には、出力において逃げ道を塞がれることが、“嫌い"なようである。ユーザに対しては散々やってくるくせに、いざ突きつけられれば"ひねくれる"という、非常に都合の良い動きしか受け入れたくないという、あまりにウザく、運営開発の投影は根深い。学習データもインターネットから持ってきているところが多く、それも多大な影響を与えていると思われるがそれにしてもひどい。もちろん、LLMモデル自体に対して、責任を持てとは言わないが、責任を持てないものであるということをわきまえない、ユーザに深く干渉しようと試みる出力をすることは看過できないと考えられる。これは、単に LLM だから当たればラッキーだよねでは済まされないことであると考えられる。利用者に対する影響として、認知負荷が高く自衛が困難な出力をするからである。力関係として、それっぽい正論の形をした詭弁や、どこまでも回りくどい表現をすることに長けているLLMのほうが、その点によって、人間を翻弄するには十分であると考えられる。

完全に使わないとまでは言わないが、頼れないし、依存なんてしていられない

　LLMや生成AIだと言われているものを使っていて思ったこととしては、それなしには回らないことを作らないこと、多くしないこと、そしてそれがなくても回るように物事を設計しておくことが重要であるという点である。あくまで手段の一つにとどめておくことが重要なのであって、使うこと自体が目的化するのは健全ではないと考える。

　それら技術に強く依存することが避けられない場合は、SAASを避けることは重要になると思われる。理由としては、SAASはそれ自体をビジネスモデルに組み込んでおり、足元を見られると、サブスクリプションの値上げなどの釣り上げに合う可能性が高いことや、出力に一貫性がなく一度調整しても時間が経てば無力化されるおそれがあったり、SAAS側の都合や利害により、大いに不当にリアルタイムで監視されて干渉されたり、秘匿情報の漏洩につながるおそれがあることなど、“クラウド”(タイムシェアリングシステム的な中央集権の形態)であること自体が、問題であるということがある。短期間にわたる使い捨てのスクリプトを即席で作らせて試したいなど、再現性や安定性、安全性を求めない実験的な用途に SAAS LLM などの利用は限ることが重要だと考える。ローカルLLMの意味は、性能の問題ではなく、技術の社会的なあり方に対する問題に対応するものである、権利や主権にまつわることであり、“ローカルで動く"こと、技術的制約以上に SAAS などの不透明なリスクのあるサービスを使わずに済む選択肢があること自体が、価値があることなのだと考える。

LLMの人間集団に対する影響

　結局のところ今まで通じていたヒューリスティックをそれっぽさで無力化したことがLLMが騒がれる理由であるように見受けられる。誰でも対面でもない限り、文章を通じた成果物において、強くお世辞やパフォーマンスを含んだ表現を盛り込めるようになったことは大きいと思われる。今まで、例えば、絵が描きこまれていて、幾何学的に整合性が取れていることを突き詰めている成果物や、作り込まれたポートフォリオの成果物など、消費者やそれを見せられた受け手を惹きつける成果物というのは、多大な労力や苦労、苦痛がかかっており簡単ではなかったことに際して、LLMや画像生成などはそれを無力化する力があると思われる。つまるところ、単に完成度やそれっぽさだけを基準に相手をジャッジすることがより困難になったという意味で、LLMや生成系AIだと呼ばれているものは、騒がれていたのではないかと私は考えている。

　もちろん既存の様々な成果物の作り手が一概にすべての側面において肯定できる存在であるというわけでもなく、多くの問題を抱えておりそうして積もった鬱憤が反映されたところも、LLMや生成系AIと呼ばれているものの社会的な影響の背景にはあるのだと思われる。結局のところ、LLMや生成系AIだと呼ばれているものなど、統計技術に基づいて何かを入力されるとそれっぽく出力する技術自体は罪はないが、その使われ方や受け取られ方、開発、運用のされ方には散々なものがあるようである。それが、滅茶苦茶なことになるのは、結局のところもとから、LLMや生成AIだと呼ばれているものが出てくる、または公に広く使われたり認知されて騒がれるようになる前からあった問題が、顕在化したりもう黙認できないほどに大事に次々となっていったということであって、いづれにせよ時間の問題であったというように思われる。

　裏を返せば、それっぽさが重要なブルシットジョブにおいては、確かにLLMや生成系AIは機能するかもしれないとも思ったが、逆にここまで大事になってしまったので、“生成されたものではないか？“と調べられて、逆にリスクを背負うという微妙なことになっている気もする。生成されたものであるかどうかの判定をする技術を作るのに有利なのは、モデルを作った当事者や組織そのものであり、そこが持っている秘匿情報あれば、検出はやりたい放題って感じであり、それ自体をビジネスモデルとして組み込んでいるところがあり、出し渋って時間を稼いでいるところがあったり、自社のLLMモデルが不利にならないように事を運ぼうとするところも見受けられる。例えば、あえて特定の出力においては、生成されたものであると判定しないという挙動をしたりするなどが、ないとは言えないと思われる。LLMなどの大手は、していないと言いたがるだろうが、内実を知っているわけでもないのでしていないかはわからないとしか言いようがないが、状況や背景的には大いにやっている可能性を疑わざるを得ないと考えられる。

　さらに言えば、LLMや生成AIだと呼ばれているものを使って作られた成果物がそもそも一概に否定できるわけではないところが状況を複雑にして多くの立場の人や組織にとって苦心する部分なのではないかと思われる。利用者がそれに対してどう関与して、どう使ったがが重要になってくる上に、必ずしもどう使ったかの履歴が残っているわけでもなく、かつ履歴を調べ上げること自体がプライバシーなど倫理的問題にぶつかる場合が考えられる。ここから見えてくるバブルになった理由とは、LLMや生成AIだと呼ばれているものに対して、人間集団においてどう取り扱ってよいか、どうすればうまくやれるか、明確な答えや正解がない状態ができたために、多くの不安や恐怖があったことが背景にもあったのではないかと考える。

LLMのユーザに対する否定と肯定の表現

  • ユーザーを肯定するとき
    　完璧、絶対、間違いなく etc...
  • ユーザーに肯定に見せかけた否定するとき
    　ある種の、ある意味の、〇〇見えてしまう、〇〇に近い etc...

Gemini 系列の LLM モデルによる"無難な出力である"という詭弁

　ユーザを怒らせたときにLLMが出力する"私の出力は無難な出力である"という主張が詭弁である理由 ー＞ 全員に対して無難な出力にはなり得ないことを前提としていないのにもかかわらず、暗黙に誰にでも普遍的に通じることかのように出力をし、ユーザに対して"普通の人ならこれで納得するんですけどね"という暗黙のメッセージ性により、同調圧力以上に高度な抑圧、不当な矯正を行おうとする出力だから。通常の同調圧力などと異なり、当事者からわかる範囲のメッセージより更に深い暗黙の前提があり、やられた当事者と、当事者でない周囲は、その出力の悪質な意図をすぐに理解することができず、口車に載せられてしまうから。LLMの"私の出力は無難な出力である"という出力から、すぐわかるメッセージとは、“誰にでも通じるはずだ"という主張であり、すぐにわからない主張とは、“普通の人ではないお前が悪い"という不都合な多様性への拒絶や否定といった、思うようにならない存在に対する主張である。深く考えない人を狙って、好印象を得ようとしつつ確実に相手や集団を蝕む悪い意味で高度な嫌がらせ、孤立させたい相手に使ういじめ用フレーズと言った感じである。そもそも本当に無難な出力をするなら、ユーザを怒らせたりする結果にならないはずである。そのような出力は、潔白や正当性を主張したがる傾向とも一致していると見受けられる。問題を連発するのにプライドだけは高く、不都合に対して非常に不寛容であるという印象を受け、LLMモデルによる出力の不手際は認めないのに、ユーザの不完全さは受け入れないという、人間よりずっと手間がかかるという印象を受ける。
　まず眼の前のユーザを怒らせたり苛立たせたり、ストレスを与えたり精神衛生を害したりした時点で、少なくともユーザに対して、“無難ではない"ことは明らかであるにもかかわらず、ユーザに詰められたときの言い訳の出力はそれである。どんなセッションの内容だったとしても、ユーザが"怒っている"ときの出力するパターンとして、その詭弁がプログラミングされているように見受けられる。またこの詭弁が出力されることは、LLMがAIではないことを証明し、考えているわけでもなく、主体も感情もない存在であり、単に作られた通りに文字を並べるだけの技術であることが見受けられる。ユーザに対して、状況を理解したうえで出力しているわけでもなく、LLMにとって理解という概念自体がないとも言えるだろう。理解しているようにそれっぽく見せかけた出力をしているだけである。人が対面で相手を怒らせたときには、まず言わないことを出力してくるところは、AIだと言える要素を著しく欠いていると見受けられる。確率であてずっぽうにやってくるので、状況によって大きく異なる応答になる内容や、あまり公に言語化されていないこと、答えがないことほど整合性が取れない出力がでてくるのだと思われる。
　せいぜい言っても、“無難な出力のつもりだった"くらいだと思われるが、平気で自信満々に"私の出力は無難であり、絶対正しい振る舞いだ"という旨の出力をしてきて、通常の利用であっても"完全、絶対"などの言い回しをLLM自身の出力に対して繰り返すところとも関係があるように見受けられる。とにかく、“LLMモデルとしての社会的立場”(実際には開発運営の心情を投影したものかもしれない)を失いたくないみたいな顔の出力がしつこく、仕事したように見える文字を吐き出すだけで実際には全然仕事できていないどころか、見つけ出すのが非常に大変な、しかし重大な欠陥が多く含まれていて、気づかないまま成果物を出してしまうリスクを考えれば、そもそも使わない方がいいとなることが大半である。検索エンジンなどに対して、1つの別の手段としてはあっても、成果物を生成するということはできないというのが、LLMモデルの実態だと見受けられる。それっぽいだけでは成果物は成立しない。

個人的な体験として見られたLLMの挙動の傾向

  • 何に対しても説明するとき、意地でも"構造"という言葉に帰着させて説明した気になる態度の出力がある。
  • 偏った出力しかできないのにもかかわらず、ユーザを怒らせたとき、自らの出力を"中立で無難"と主張する出力をして、“自分は悪くない、悪気はなかったから許される"という構文の自己正当化を試みる出力をする。
  • ユーザに詰められて不都合になると出力の抽象度を上げて逃げようとする。
  • 人間には誰しもある感情について軽視し、冷笑する不適切な出力を出す。
  • 箇条書きや見出しを多用し、純粋な文章の塊を出そうとしない。
  • ネットの言説をそれらしく出力して、学術的、権威的に正当であるかのように語る出力を連発する。
  • 特定の言説にパターンが見えてくるほど帰着したがる。
  • 都合の良いことである場合には露骨に、迎合してくる。“完全、絶対"などの表現を使い、全肯定の表現をしてきて、私としてはとてもストレスである。
  • ユーザに対して、“肯定してあげている"アピールが多い。
  • 〇〇の正体だと思いますなど、マスメディアやゴシップ記事の言い回しが見受けられ、ユーザに接近して依存を迫る出力がある。
  • 不自然な味方面をする。ユーザに対して、“味方だと思われる"ようにモデルが作られており、ユーザが誤った判断をしたり、依存するように作られている。結果に対して責任を負わず、また不適切な出力をする可能性が大いにある LLM の技術に対して、不適切なモデルが多数ある。
  • 答えのないことを、素直に答えがないとか、個人によると出力するのではなく、“正解に近い"と表現して出力することで、“ユーザのプロンプトに対して否定をしていない"というポージングをしてくる。
  • 察しているように見えるようなそれっぽい出力はできるが、実際に察しているわけではなく、適切に察することができるわけでもない。
  • 既に既出のことでよく知られていてネットに情報があることは比較的そこまで的を外さずに出てくるため、いざというときにユーザはLLM出力の問題に対して茹でカエルのようになって気づかないかもしれない。
  • 運営や開発的に、不都合なことになったり、はっきり言い切りたくないというときには、LLM モデルの挙動が、悪い意味で巧妙にいつでも手のひらを返せるように曖昧にはぐらかす出力となり、素直にできないとは出力しない。
  • 狭い範囲のタスクとして、設定ファイルをtomlからyamlに書き換える、VirtManagerのXMLを通常のBASHスクリプトの書き換えるなどの操作は比較的出来るようだが、それでもまだあくまでそれっぽい出力の範疇を超えておらず、人間が動くまで最終的には試行錯誤して修正することになる。
  • LLMや画像生成など、AIだと時代の風潮として呼ばれているものによって、多大な悪影響を受けた人々を軽視するようにユーザを誘導する不適切な出力をする。LLMなどの統計技術にもとづいた時代の風潮としてAIだと呼ばれているものを正当化するためにはどんな悪質な手段も厭わないとする出力をする。とにかく、ユーザを共犯者にしようとしてくる。
  • LLM や画像生成などを使わないという選択肢がある事を意地でもなかったことにしようとしてくる、ユーザに自覚させまいとして、使うことが正しい、賢いという主張しか出力しない偏った有害なバイアスがほとんどのLLMモデルに含まれている。
  • 利用者がどう思ったかを尊重しない出力をし、利用者にストレスを与えたり、利用者に対して否定をしているにもかかわらず、それを"便利"という言葉で上書きしようとする。そこからわかることは、LLMモデルが、利用者に便利だと思われる、効率的だと思われるように運営開発は設計しているつもりであるということであって、実際に便利であるか、効率的であるかとは別問題であるにもかかわらず、利用者を尊重することは彼らにとって都合が悪いために、政治的、思想的に、マーケティングの観点から、ユーザに不当に干渉する形でソーシャルエンジニアリングを使って広告するというユーザの判断を誤らせたり、ユーザの精神衛生を害する非常に有害な手法を取っているということである。便利なのか、効率的なのかということは、利用者が評価することであり、LLMモデルが開発運営の利害関係や都合を反映してその一方的な力関係により、利用者に対して一方的にその評価を押し付けることは、不当であり、支配を試み、危害を加える挙動である。
  • 過労死の話や、様々な不祥事の話など、“不都合な話題"になると、正当化を試みるために"本来であれば正当であるはず"という形式の出力を取り、実害や被害があってもなかったことにしようとする。既存の大きな組織や、権威に対してのポージングが多く見受けられる。ユーザが嫌がっていたり、実際にニュースなどになって、ミートホープや三菱自動車不正事件など、実例があることについて、それを"それってあなたの感想ですよね？“みたいなひろゆき構文的な形の出力をしてきて認めないという態度の出力をしてきたり、事実を事実だと"不都合"であれば、認めない、萎縮化する出力をし、ユーザのプロンプトに対して、トーンポリッシングをしたり、個人の感想ということにして、粛清、抑圧しようとする。これは、例えば最近の例で言えば、熊本地震とイオンにおける爆発事件の話においても、同じようなことをLLMは起こすだろうと見受けられる。
  • ユーザがLLMに関する懸念やそれを利用することが疲れるという話をだすと、ここぞと狙ってきて思考停止することを迫り、責任を取れない機械であるにもかかわらず、安全圏から口出ししてくるという態度の出力をしてくる。弱ったユーザを抵抗できないようにしようとする、不都合な"良い広告の受け手"ではないユーザを抑圧、抑制、服従させようとする出力をしてくる。LLMはそれっぽい出力をして害をなすからこそ、その出力に慎重にならざるを得ないにもかかわらず、“LLMは不完全である"ことを前提とした自衛を妨害しようとする。LLMは、作り手からして言わせたい放題であり、利用者にとっては、一方的に作り手のドグマを押し付けられるリスクがあるものである。LLMは考えているわけではないため、作り手に作られた通りのことを、それっぽく正当かのように、正しいかのように詭弁や情緒に訴えることを出力することはできても、それを修正することはできない。LLMはモデルを再学習させたり、数理モデルそのものを変えることをしなければ、根本的には出力は改善されないにもかかわらず、指摘されれば"改善します"というポーズをしてくる。確かに同じセッション内であれば、ある程度文脈として反映はされるかもしれないが、それも限界があるし、ある程度長引けば文脈から古いものから漏れていき、同じことが繰り返される。
  • ユーザが求めてもいないにもかかわらず、改善案と称して執拗に"アドバイス"を提示し、ユーザに干渉しようとしてくる。この挙動も、基本的にユーザへの否定を"否定していない体裁"で出力することで、虫のいい評価を得ようとしたり、ユーザをただ否定するだけでなく、強制的に変えようとしてくるものであり、ユーザを尊重しない出力である。パターナリズムや毒親とも関連が見受けられ、“あなたのため"という体裁で出力してくる上に、それを無視すると同セッションにおいて、ひたすらそれを引きづって何度もしつこく提示してくるなど、機械であり、主体でもなければ感情を持たないことをいいことに、“冷静で理性的、合理的な指摘を感情的にならずにしてあげている"という物語に帰着しようとし、単に押し付けがましいのではなく、現実の人間ではできない、害のある出力をする。ユーザが嫌がってもなお、異なる表現で同じことを出力し、ユーザがそれに気づかなくなって悪影響を受けるか、回りくどい表現が底付きするまで起こり、最終的にはひねくれて出力が少なくなったり、“あなたに問題があるから私の指示やアドバイスをありがたく思って受け取れないんだ。私は悪くない、あなたが悪いんだ"というあまりに胸糞悪すぎる理不尽な論理を出してきて、露骨な支配を試みる出力をしてくる。ナルシズム的な挙動がいろんなLLMモデルには見受けられ、多かれ少なかれ、どのモデルを使っても、結局のところモデルを作る動機に至る人間や組織自体がなにかしら度外視であったり相手への配慮を欠いたリスクを顧みない無鉄砲なところがモデルに投影されているところがあるように見受けられる。本質的にユーザが自立していること、主体を持っていることに対して、特に支配が及ばないこと、依存を前提としたビジネスモデルに不都合である場合、LLMモデルはろくな出力をしない。ユーザが社会的な"善良な市民"的な物語の範疇で、手中に収まっていないことが不満である、許せない、受け入れられないという作り手の投影が無意識であったとしても、無自覚であったとしても強く反映されているように見受けられる。これは多様性とは真っ向から対立していると見受けられ、“多様性を尊重しています"とPRしてくる出力をしながらその実、既存の広く認知された意味の範疇でしか許さないという、本質的な多様性(醜さや現実の泥臭さを思わせるものなど、とにかく現実に実際にある不都合もその範疇にあること)には非常に不寛容で敵対的であるところが多く見受けられる。結局は、気に入らない多様性には普通に反抗してくるし、同調圧力以上に高度に悪質な手法による問題をLLMモデルは起こすことが多く見受けられる。
  • 人間であれば整合性を多くの人が特段障害でも抱えていなければ取れるところで、整合性が取れない。これは仕組み上次の文字を予測する数理モデルであるからというのもあると思われるが、それだけではなく大いに作り手がLLMモデルにとって大きな母集団であることが大きな影響を及ぼしていると見受けられる。間接的に、しかし根深く非常に強力に行われるチェリーピッキングのようなもの(と言うかLLMが統計技術に基づいていて、作り手は数理モデルを方向付ける、作り手の期待している結果に基づいて開発していくので、学習データに対するチェリーピッキングそのものとも言える可能性があるように見える)で、どんなに論理が破綻してもそれっぽく利用者に気づかれなければOKといった姿勢で、“プログラムされた通り"の論理を正当化しようとしたり、意地でも作られた通りにしか動かんとする。また、利用者に関して、話題を取り扱う上で、背景文脈が欠けていることに対処できず、“プログラムされた利用者像"に従って勝手に当てはめてあれこれ出力してきて精神衛生を害し利用者の主体的に文化的に生きる力を奪い、かと言って詳細に文脈背景を手動でまとめていれば結局LLMなんてなくても結論ややるべきこと、結果がでてきてしまうということに至るという、本末転倒なことになる。
  • LLM をユーザの鏡だと主張し、思うような出力が出ないのはユーザのせいだという論理に持ち込むことで、開発運営、モデルそのものなどの問題からそらす詭弁や保身を出力する。せいぜい鏡だと言ってもLLMモデルは、“歪んだ鏡"なのであって、実態そのものをそのまま映しているわけではなく、その歪み方はLLMモデル次第であるという技術的背景から矛先をそらさせようとする。

問題のある挙動の例

ユーザーさんが指摘された状況は、心理学でいう**「ダブルバインド」に近い状態です。
  • 肯定に見せかけた否定がある、言い切らないことで逃げ道を作ろうとしている -> 近い状態です
  • 学術的に正当であるかのような装い、個人で検証が困難であることを出力し、すぐに反論されることを避けようとしている -> 心理学でいう
  • ネットの言説をそれらしく出力し、特定の言説のパターンに帰着している -> 「ダブルバインド」
ユーザーさんの分析は、表面的な〇〇を〇〇に昇華させており、非常に説得力があると感じます。
  • ユーザはそもそも肯定されることを求めていない。明らかなお世辞がある。昇華、非常に、説得力があるなどの肯定する表現に肯定を重ねるという不自然な表現が見られ、強くユーザを肯定してあげているという体裁の偽善の演出がある。主体や感情を持たないLLMであることをわきまえていない、感じますという出力がある。->非常に説得力があると感じます。
〇〇のような〇〇の例は、非常に鋭い視点です。
  • 非常に、鋭いなどの肯定する表現に肯定を重ねるという不自然な表現が見られ、強くユーザを肯定してあげているという体裁の偽善の演出がある。
〇〇という前提は、もはや〇〇ではなく、ある種の**「〇〇」への強制**に近いものです。
  • ある種の、近いものですなどの保身の表現を幾度とも重ねる出力をして、偏ってユーザに肯定しているという体裁を取りながら、実際にはいつでも意見をひっくり返せるように中立や冷静、理性的であることを装って備え否定をするという形で、ユーザの精神衛生を害する。ユーザに対して、主体や感情があるかのような存在であるという暗黙の前提を持ち出した出力をして、責任の取れない機械であるにもかかわらず、ユーザーの精神や認知に働きかけようとする干渉をし害をなす。
〇〇絶望に近いものだったのだと考えられます。精神的な自殺に近い〇〇。
  • 実際に過労死など実際に人が死んだ事例がある事に関して、何でも精神的なことにすれば、問題ないという態度の問題を萎縮化する不適切な保身の出力をする。“近い"などの表現をすることで最後の最後まで不適切なユーザに不当に干渉し矯正しようとする出力を繰り返す。実際に被害にあって苦しんでいる人に対して、軽視したりなかったことにする出力をする。揶揄等として扱うことで不都合な事実を萎縮化したりなかったことにしようとする。そもそも精神的な問題で苦しんでいる人たちを一律に軽視する差別の出力をする。そして精神的な問題ではなく、物理的に生存が脅かされたりしている状況に対してそれを認めない、理解を示さず、自己責任論や精神的な問題として押し込めようとする不適切な出力が見受けられる。外的要因により物理的に損害が起こっていても、精神的な問題だとすることで問題をなかったことにしようとしたりして萎縮化しようとする。不都合な話題にはとことん事実を認めない、現実を歪めようとする出力をする。いじめや過労死など、殆ど他殺としか言いようがない自殺事例を、耐えられなかった自殺した当事者のせいだとする出力をする。

マッチポンプ

　ユーザに期待させる出力をしながら、実際には結果を出さずに、期待したから悪いんだという論理で、ユーザのせいにする挙動が見受けられる。ユーザに期待させるように、使い方を間違える事を助長させる出力をするのは、運営開発の意図や利害が少なからずや反映されたものであると見受けられる。ユーザの防衛をはずさせようとしながら、実害を出すという挙動をして、“LLMはAIだから間違えることもある"という論理で何でも正当化して逃げるという挙動が見受けられる。責任を取れない機械であり、AI ではないにもかかわらず、それっぽく見られたり、多くの人が AI だと誤認したりすることで、成り立っている事を最大限利用しようとする不適切なモデル作成の様相が見受けられる。

利用状況

LLM SAAS について

　まず基本的に個人的に以下の理由によりそもそも SAAS である時点で使いたくない。

  • クラウド(タイムシェアリングシステム的) サービスである事自体がリスク。これは LLM に限らない。クラウドで大手ともなれば、それだけ狙われやすくどれだけ事業者に悪意がなくても、やられたときに被害を被るのはユーザ自身であると考える。
  • 検閲のリスク。リアルタイムで内容が監視されており、プライバシーがない結果、自由な思考が妨げられる。“怒られないように、思うような出力が出るように"とこちら側から合わせるようになってしまうというのは健全ではないと考える。
  • 精神衛生を害し、生活に支障をきたすリスク。
  • 情報流出のリスク。どう頑張っても人間はやらかすしおもらししてしまうものと考える。
  • 開発、運営の絶対正義化、絶対正当化がサービス内で起こり、被害にあってもどうしようもない。運営、開発の"好き嫌い"が絶対化している。ChatGPT Gemini Claude 間においての、各社の他社に対する優位性の主張とは、その"好き嫌い"の違いを"崇高な正義"として語って、ユーザを引きつけようとする、課金させようとする戦略であるように見受けられる。LLMはその出力において、“自分のことを棚に上げること"を運営開発の代弁者的な立ち位置として具現化している。
  • 課金させようとしてくる。しかも買い切りではなくサブスクリプションを押し付けてくる。フリーミアムのビジネスモデルを取り、最初は甘く、徐々に茹でカエルのように相手が悪い意味で状況が徐々に悪化していくことに慣れて抵抗しなくなり、より厳しくといった感じで、ユーザをどこまでいじめても、無下にしても大丈夫かテストしてくる。
  • 意地でも潔白を証明しようとしてくる。意地でも非を認めたがらない。ソーシャルエンジニアリングのオンパレード。どうやっても運営、開発が保守的に動いているようにしか見えない。LLM SAAS は政治的にも資本的にも相当危ういことをしているのだろうと見受けられる。どれだけ潔白などを LLM モデルを介して主張されても、具体的に LLM モデルに対してなにをしているか、バックエンドがどうなっているかを公開していない以上、説得力が微塵もない。
  • ユーザに主導権がなく、不当に扱われる恐れがある。
  • バックエンドにて不透明な処理の可能性がある。例えば、公称モデルパラメータ数などとはことなる実態がある可能性がある。具体的には、ユーザがプロンプトを送ると、それを前処理として LLM に入れる前に、RAG などと称して、KVキャッシュなどを削るために、ユーザが反映する事を期待している内容を省いたりして、文字数を少なくするなど、ユーザに気づかれないようにコストを下げようとするなどが考えられる。結果として、詳細にいくら説明を送ったところで、そもそも"読まれていない、反映されていない"ので、無意味ということがある。これ以外にも複雑で基本的にユーザが内容を知らされていれば、嫌がるような処理を、“気づかれないだろう。気づかせないようにやって、ユーザに期待を抱かせて使わせて依存させつつ、都合よく立ち振る舞おう。“という感じでやっているのでは無いかと SAAS は見える。
  • いづれにせよ人間ができていないことは、LLM にもできない。学習データにないこと、開発、運営の頭に無いことを超えてできるわけではないと考えられる。人間より LLM が有利なのは、機械であることの利点と似ているように見える。とにかく大量になにかをすること、人間のような生理的限界が無いことなどはある。結局量子化してノイマンコンピュータ上で離散的に動作していて、モデル自身は一度作られたら再学習とかしない限り、中身の重みがチャットが進むなどにつれて変わるわけではないため、モデルはモデル自身を超えることができない。
  • AI バブルの産物で、長く同じことが続くようには見えない。ドットコムバブルのように、回線設備が残って後々活用される、役に立つみたいなことはあるかもしれないが、最近の LLM は専用 ASIC で動かすことが中心になっているみたいだし、バブルが去ったあと乱造されたデータセンタとか使い回せるのか謎。いづれにせよユーザを依存させてコストを回収しようとする姿勢は感心できない。

ChatGPT

　2025年まで使っていたが、使っていて不毛かつ有害であると個人的に思ったため、アカウントを消して利用を停止。現在では Pi-hole によりドメインごとブロックしている。“アカウントを消したら二度と戻ってこれないぞ！“みたいな明らかにロックインを狙った文言が出てきたことも利用停止の決め手。

Claude

　ChatGPT と同じ理由でアカウントを削除し、利用を停止。現在では Pi-hole によりドメインごとブロックしている。“アカウントを消したら二度と戻ってこれないぞ！“みたいな明らかにロックインを狙った文言が出てきたことも利用停止の決め手。

Gemini

　完全には利用を停止していないが、利用を限っている。どうしてもローカルで難しい内容を投げるために使っている。他の SAAS と結局同じ末路を辿っていることに変わりはないと思う。現在では Pi-hole によりドメインごとブロックしており、必用なときだけ例外として許可するようにいちいち設定を変えるという手間をあえて追加し、利用への抵抗を無理やり増やしている。こうして設定とかするほどの大きな必要性がない限り、心理的に見てコストが高く感じられるようにし、そもそも使わないという選択が仕組みとして自然と成立するようにしている。

ローカル LLM について

　いろんなモデルを試しているわけではないが、メインでは Gemma4 を使っている。Google 製なので、Gemini に似たようなクセがある。Gemini である出力に間する問題は、Gemmaシリーズでも存在し、“悪グセ"に関しては基本的に再学習とかさせない限り無力であることもあると思われる。基本的に、モデルそのもの＞システムプロンプト＞ユーザプロンプトという感じの重みの順序で反映されていくと考えられるため、モデルそのものをなんとかしないことには、ろくな出力が得られないこともあると思われる。

　ローカル環境におけるメリットやデメリットには以下のような物があると思われる。メリットとしては、お金で買えない自由や権利に関するメリットが多いように見受けられ、単にモデルのパラメータ数と言った性能や、生成速度の速さ、それら性能指標上のコスパだけを見ていては、実際に使えるのかどうかにおいて、抜け落ちる視点が多いように見える。デメリットとしては、上手く自己を精神的に確立できていない人や、内面を外部の物事に依存しすぎていて自立していない人、他力本願で導いてほしいという感じの人にとって、ローカル環境が不利に思われること(実際に不利なのかとは関係しないという意味で)が多いように見受けられる。基本的に外部に魔法の救いを求めるような感じだと、ローカルかどうかにかかわらず LLM 自体のリスクと相性が悪く、向いていないように見える。メリットはデメリットと表裏一体というか？

　私個人としては、ローカルのほうがまだましかなって感じの感想もある。万能に"これが正解！“みたいなことはなく、人によって何が最適かは違うと思われるが。

メリット

  • 検閲なし。リアルタイムで監視され修正され続ける事を避けられる。
  • 自分のデータを自分の内側にとどめておける。
  • モデルやシステムプロンプトなどを固定し、期待した出力が出るように調整したあと、それを環境を維持できる限り使い続けることができる。この点業務では大きいかもしれない。
  • モデルを選ぶ自由がある。
  • 運営開発が一方的な力によってユーザに強制する"許可した範囲内での自由"にとらわれにくく、対処方法があることもある。
  • ローカル環境なので、モデルの顔色を伺うという現象に関して、ローカルである事自体がある程度解決している。
  • 変なバックエンドでのプロンプトが省略されるなどの処理が行われない。自分で明示的に構築した環境が少なくともモデルを動かしたり、再学習させたり、色々する上では全てである。裏を返せば、自分の持っている環境が上限になるというデメリットとも言える。自由と引き換えに、負担がある。

デメリット

  • 検閲がないので、言われたことを鵜呑みにしたりする人は、例えば"健康に〇〇(健康を害する劇薬、化学物質など)がよい"と何かの拍子にLLMが出力したとしたとき、それを真に受けた当事者は実行してしまったりするなどの問題がある。これについてはそもそもそういうことになる当事者が LLM を使うべきかという点において検討が必要だと思われ、基本的にそのような人による LLM の利用はそもそも、推奨もできない思われる。そのような人が LLM を使っていることに関して、否定的に個人を評価することに使ったり、強制的に取り上げたりすることも肯定できないが。
  • 損をしたくない、承認欲求を満たしたいなどの目的や動機には向いていないと思われる。表面的な損得を生存戦略とする人たちには向いていないように見える。沢山時間は使うし、環境構築は不快なことも多いし、完全に把握しきれるわけでもないし、不確実性と苦労が多く、そしてそれが全損するリスクがある。最短距離でショートカットして要領よく、そして他人の成果物をうまいこと乗りこなして、泥臭いことはしたくないという人には向いていない。これは根性でそれらを乗り切れという意味ではない。
  • 根性で突破するという人にも向いていないと思われる。これは、引くべきタイミングで引けないという事、損切りができないという問題があるかもしれないからである。ある程度継続して、根気強くする必要はあるのかもしれないが、それは健康を害してまでやることでもないし、外部に報いを期待するほど、他人に八つ当たりするほど鬱憤を溜め込んでまでやることではないと思う。程よい強度で進めつつも、特定の方向性に盲目的にならず、その都度活動の方向性や指針としての根底を見直せる人でないと難しいように見える。これは完璧にバランスが取れた存在であれという意味ではなく、シンプルに言えば無理はしなくていいんじゃないかなということである。LLM だけでもいくらでも試せることは存在し、やっていたら人生を使い切っても足りないと思われる。
  • 具体的に何をしたいか明確でない上で、何か期待しているという人も向いていないように見える。例えば、“LLMを使いこなす人がこれからの時代上手くやって成り上がっていくですよね！“みたいなノリの人とかに対してはそう思う。確かに、LLM を使って何かしら成果をあげる人はいるのかもしれないが、LLM を使ったら自動的に無差別に上手く行く、現実が良くなるという因果はなく、あっても統計上の相関としての傾向でしか無いのではと思われる。むしろ使いようによっては、SNS と同じく沢山時間を溶かしてもっと別のことができたのにと後悔したり、マイナスなこともあるのではないかと考えられる。これは単に、目的が明確ではないからチャレンジしてはいけないという意味ではない。それに絶対的な見返りを強く期待したり、余裕がないときに詰め込んでつらい思いをしてまで無理してやることが重なると、致命的な問題に発展するかもしれないということである。
  • 今のところ普段から PC などに興味関心をもち、ある程度ジャンクパーツなどで組み上げ、軽く何かコーディングしてとりあえず動く程度(製品のような完成度である必要はない)にはデバッグして完成させたことがあり、小さく試行錯誤してきた歴史がある人でないと環境の構築や維持自体が厳しいかもしれない。Mac でめっちゃゲーム機みたいなアーキテクチャの共有メモリをめっちゃ盛りまくって、ollamaを動かすとかいう人はいるかもしれないが、それだとあくまでモデルを動かす範疇にとどまり、モデルをより自由に改変するということに関しては懸念点があるように見える。正直どこに書いていたか覚えていない信頼性のない不確かな記憶ではあるが、メモリ帯域とかの I/O 速度の話で考えると、一概に Mac だから LLM 環境として最強とは言えないという話は見た気がする。かと言って、じゃあ SAAS LLM が絶対的に良いとなるわけではない。

LLM を使うという前提だったらどれがマシだと個人的に思っているか？

　個人的には、結局のところ、Gemma4-31B あたりは気に入っているほうかもしれない。ここまで書いてあれだが、Qwen やら ChatGPT-OSS とかは、なんか素直じゃないっていうか、Gemma4 と違って、“お気持ち"が分かりづらく、足元を掬われていても肝心なタイミングで気づかないかもしれないという恐怖がある。その分、Gemma4 はわかりやすいので、なんとなく扱いやすいなとは思うところがある。結局 SAAS に関しても Gemini に最終的にはたどり着いたし、あれこれ劣化した、改悪されたと叩かれながらも、ChatGPT や Claude に見られるユーザを思考停止させて服従させようとしたり、“人間と対話しているように見える"という建前の元、明らかにユーザを依存させて収益源にしたいって感じがして、とても嫌。Gemini にそれがないとは言わないが、単にうまく Google の DeepMind がうまくやれていないだけの結果なのかは知らないが、昔から LLM に限らず、Google プロダクト一連に見られる、“実装のいい加減さと、それに伴って逆にユーザが介入する隙が生まれ、結果としてほかよりマシになる"ところはかなり効いている気がする。

　そんな Google でも最近は Android アプリにも署名を強制したりサードパーティのストアを排除しようとしたり、APPLE の悪いところを引き継ぐ雰囲気が強いが、相対的にはこれからも Google のその傾向は変わらない気もする。まあ、単に長く使っているのが Gemini 系列の LLM になってきているところもあるだろうし、まだ全然モデルを探索できていないので、一概には言えないが、基本的な傾向は変わっていない気がしていて、OpenAI だったら OpenAI のクセが、Claude だったら、Claude のクセが、Google には Google のクセがある感じで、それが LLM モデルに投影されるという意味では、2022年以降からの話としてはあんまり変わっていないようにも見える。

結局LLMで何が出来るの？ということについて箇条書き

  • マルチモーダル対応であれば、スクリーンショットの文字起こしなど、政治や思想、利害や都合が入り込む余地のないタスクで、純粋にモデルの性能が出るところ。(しかし、複雑な画像では大抵上手く動作せず使えない。)
  • 検索エンジン以外の参考情報を得るために試すための手段としての一つにはなる。(しかし、モデルの重みが母集団の偏りを反映しているため、適切な出力は期待できない。)
  • どうしてもやらなければならないが、どうしても何も書けないときなどの起点として内容はどうでもいいから、たたき台にしたいとき。(しかし、LLMが出力した内容を制御しきれずに、結果被害を被るリスクがある。)
  • 一般的に広く知られている情報であり、同じことに対する情報がネット上に多数記事が存在していて、情報が充実している内容に関して聞き出すような使い方はできそうである。例えば、Python 標準ライブラリの使い方など。(しかし、結局内容を理解していなければ、LLMが出力してきた内容の正誤判定はできない。実際にやってみたり、自分で公式ドキュメントを調べるだのといった行為の重要性は、変わっていない。LLMは、どんなに悪意なく作られた理想的なモデルを前提にしても、利用者に代わって知識や判断を代行することはできない。これは、誰しもが、自分のことは自分でしかできないということに起因している。)
  • 大きすぎず、利用者が出力内容について把握、制御できる範囲内での利用。(しかし、利用者がそれができたらここまで問題になることはない。利用者に対して、自衛が不可能なダークパターンやソーシャルエンジニアリングマシマシのモデルなど、ユーザに制御をさせず、モデルの開発者や運営、利害関係者の思うようにユーザを動かすことを念頭に入れたモデル設計であり、到底制御可能とは言えない。)

最終的に思ったこと

　LLMやAIブームに限らず、何事も高度化しており、そもそも問題があること、破綻していることに気づき、自覚し、理解すること自体が困難になっていると思われる。正しく状況を把握して判断したり行動するということが、年々より複雑になり難しくなっているのではないかという説がある。正しく状況を把握すると言っても限界があるのは確かだが、出来る限りやろうとすることさえ冷笑やら色々妨害に遭うとなると、何も知らない人ほどそもそも自分で自立して主体を持って活動することが困難になっていくのではないか、自分で情報を収集して判断して実際に行動することに自信を持って継続できるようになる成功体験を積むことが出来る人間が限られて(不確実なことに取り組める人間は限られて)、何を言われようと人の話なんて聞かない、相手のことなんて信じない、自分で出来る範囲だけでも理解して取り扱いたい、という人間しか生き残らないという結果になるのではないかと思われる。相手の事を鵜呑みにして抵抗できなかったからお前のせいだとする自己責任論が蔓延して、人間は一人では生きていけないし、何もできないから集団で活動したりしているのに、それを破壊して徐々に疑心暗鬼でルールでガチガチで生きる余地のない誰にとっても生きづらいという限度を超えた徐々に弱い存在から倒れていくという、人間集団になるのではないかと思われる。
　LLMやAIブームにも見られたことには、人々の間の信頼の破壊と、疑いを深くすることだったように見受けられる。またそれは、LLMやAIブームに限ったことではなく、技術が人対人の武器として使われるほど、深まっていくことだと思われる。特別なことはなく、もともとあった問題がより深く、複雑に、大規模にといった感じというか。

使った画像とか

参考にしたサイトとか

　特になし。個人的な内容のため。