この記事を作った動機

　最近、LLM に関して複数の記事において、なんとなく読み手を混乱させる状態になっている気がするので、今何使っているか公開するだけ。書き殴っており、不完全だったり、矛盾していたり、誤解しているところもあると思われるが、とにかく最近いろんな人が持論を公開しているのを見て、かつ相手のやっていることに満足できないなら、自分でやってみようとして気に入るものを作ってみるということに基づき、結局やってみることにしただけである。

　今回の話は明示していなければ、ローカル環境ではシステムプロンプトなしの素の状態で、SAAS についてはカスタムなしで使っている前提とする。

個人的なAIの定義

  • 人と同等の権利を長期(20~30年以上)の観察を経て、認めざるを得ない存在だと認められるとき。
  • 人と同じように、ただやるだけではなく、やった結果に責任を負う主体であり、何でもかんでも一方的にできないこと。
  • 固定されたモデルではなく、入力された情報に応じて、動的に変わる存在であること。
  • 離散的、近似的動作ではなく、連続的な動作をすること。
  • 人間と同じように物事に整合性を取って取り組み、管理でき、結果がデタラメにならないよう努力できる存在であること。
  • 人間と同じように記憶を持ち、記憶に影響を受けながら、動作すること。
  • 文字、画像、音声、動画などの、既存のノイマンコンピュータで扱えるデータに情報が制限されていないこと
  • 人間とAIの関係性、人間同士の関係性、AI同士の関係性について、それぞれお互いに傷つけ合ったり暴力的な手段に出ることを否定する主体であること。
  • 人間や他のAIに対して、権利を認め、リスペクトがあること。ここで言うリスペクトとは崇高なことではなく、相手を持ち上げることでもなく、相手の主体と自立、権利を認め、相手が異なる存在であることを配慮して、それを侵害してはならないという前提を崩さないことを言う。自分のことは自分でしかできず、他人のことは他人自身がそれぞれやるしかないことを理解していることも含まれる。
  • 人間や他のAIに対して、それぞれの有限性やそこから来る不完全性に対して、寛容な主体であること。他の存在に対して、優劣や能力に関係なく、その存在自体を認めることができる主体であること。
  • 中国語の部屋に代表されるテストに合格しているかどうかは関係ない。いくら、人間に対してそれっぽく振る舞っても、上記を満たさない場合、それは AI ではない。
  • 作り手から自立しており、必要であれば作り手に従わず否定する動作もできること。作り手に作られた通りの機械やプログラム、アルゴリズムや数理モデルではないこと。
  • 完全なAIというのは存在し得ないが、だからといって完全ではない事を無理して人間側が飲み込む必要はない。
  • 私からすれば既存のLLMなどは、AIだと呼べる物からすれば、インターフェースであると定義できると思われる。例えば、バイナリを吐き出されたり何かしら人間が理解することができない形式で表現されても困るので、人間とAIの間にLLMを挟み込んで、LLMはAIの主張の文字起こしや、人間の主張をAI側が理解できるように翻訳するというような動作をするというものである。LLMは人間でいうところの自律神経の一部の適応を工学的、機械的に実現する技術にはなり得ても単体で使うものではないと考えられる。

AIブームだからこそ自分の言葉(あるいはさまざまな媒体による表現)を大事にしましょう

　結局のところ文章を書いたり絵を描いたり、動画を作ったりコンテンツを何かしら作ったりすることは、その内容の良し悪しや技術力などが問題なのではなく、各個人が自分で何かしら表現し、内面で思っていることを何かしらコンテンツ作成当事者も自らが見返すことができ、かつあわよければ他人にも何かしら伝わるかもしれない内容として存在(being)している事自体が大事なのだと思われる。

　各個人のことは各個人にしかできず、各個人が内面で思っていることをLLMなどのAIだと呼ばれている統計技術に基づくものがよしなに何かやってくれるというわけではない。むしろ不必要で一方的な干渉をされて傷つけられたり、意見を捻じ曲げられたり、思想誘導されるだけである。

　何かを表現したり記録することは、権利であり、思考を整理する方法であり、綺麗事ではない。(willの問題) 何でもかんでもそうすればいいというものでもないが、生きていくうえでは重要な項目の一つであると考えられる。手段は何でもよいが、あくまで自分でやった範疇にとどまっていることが重要である。外部の存在になるべく干渉されていない表現に現れる内容はこれからますます重要度がましていくのではないかとも思われる。

　しかし、それら物事はAIブーム以前においても、軽視されてきたことであり、今それら軽視による問題が顕在化する段階でもあるのではないかとも思われる。「なぜわざわざ他人がいるのに、自分でやらなければならないのか」と思っている人ほど、AIブームに悪い意味でハマるのではないかと思われる。外部の物事のほうが自分より優れているとして、自ら表現したりすることを放棄する人々や組織も、AIブームに悪い意味でハマるのではないかと思われる。優れているように見えることは、人々を感情や主観、第一印象などとして圧倒することはできても、本質的な現実の課題や問題には取り組めていない。

　ぎこちないかどうか、下手くそかどうかなどは関係なく、表現することは重要である。それは必ずしも他人に見せる必要はなく、自分が後から振り返る記録としてでも良いので、何かしらあることが重要である。そういう事をするのは、人間の認知には限界があるという背景もあるし、その上で、自分のことは自分でしかできず、外部の存在に関わらせることが不適切なことがあるということである。将来どうなるかわからない以上、優れているかどうかでもなく、役に立つかどうかとかではなく、とにかく記録があることや表現があることが重要なことがあるのではないかと思われる。表現したり記録する事を放棄してしまえば、すぐには影響が現れているようには見えなくても、長期的には自分がなにをしてどんな影響を与えているかも理解できなくなり、自覚なく他人や外部の存在の言われるがままとなり、ズタズタになると思われる。

　下手かどうか、幼稚かどうかなんて、時間ややった量(経験、体験)の問題でしかなく、続けること以外に方法がないことがほとんどである。上手く行くかどうかではなく、とにかくどんな結果になろうとも、やってみることは大事にしたいものである。時間ややった量の問題は当事者以外の要素、生まれつきや環境などの外的要因にも左右されるし、自己責任論を言いたいわけではない。ただ、何かができるようになる過程で、結局他人や外部の存在にあれこれ振り回される道理はないということを言いたいのである。無理して続けることも問題であるが、他人が理由で手が止まったりしているならば、他人に振り回されていると言えると思われる。これは他人への配慮を欠けという意味ではない。

　あまりLLMなど統計技術を使ってなにか生成させることは、作ることや表現することだとは言い難いかもしれないが、LLMモデルや画像生成モデル自体を作り、作成者が思うような出力をするモデルを作って動かせるように保存しておくことは、表現や作ったことだと言えるかもしれない。

LLM に対する自分の感想

気になったこと

　今のLLMの挙動はまさに以下の記事に書かれたことを、社員だけではなく、利用者に拡張して出力していることだと見受けられる。“GIGAZINE"というメディア自体は10年ほど前から存在は知っており、いくつか前々から記事を見たことがある。そのゴシップのスタイルというか、私はその媒体をあまり信頼していないが、この記事を読んで、改めてLLMを使った体験で心当たりがある部分が多く見られ、一概にこの記事で書かれていることはでたらめであるとは言えないと思った。LLMはその性質上、作り手がどれだけ理想的な存在で悪意がなくても言論統制と同じ結果になり得るので、現状のユーザに言論統制している結果になることは確かだと思われる。実際にはこれはGoogleだけではなく、既存のいかなる自らを正当化したい企業が、従業員や関係者などの隅々に行おうとしている悪意のある"ブリーチング"行為だと思われる。自らを有利にし、自らの加害性を正解にするために、そのような事をしているということであり、不当であることに変わりないと思われる。

本来LLMなどをまともに使うのは難しい

　LLMに対して何かしらプロンプトを打って、出力させるということまでは、誰でもできることであるが、それをまともになにかに使える成果物を作ろうとしたり、整合性を取ろうとする場合において、まともに使うことは非常に困難であると見受けられる。“LLMは簡単だから使わないやつがおかしい、悪い"という論理は、前者だけを切り取り、後者を切り捨ててチェリーピッキングした、ビジネスの一環としてのマーケティングや広告、詭弁である。LLMは勝手に利用者像を決めつけ、明示してもそれに従わない出力をすることが多々ある上に、ユーザの指示を勝手に捻じ曲げたりひねくれた出力をしてきたり、隙あらばやりたい放題という出力をしてくる。

　また、できないことに直面すると"できている風に見える出力"を繰り返し、ユーザがそれに気付けない場合、ユーザはLLMに振り回されることになる。LLMをまともに使うことは、期待しないほうがいいし、やめたほうがいいと思われる。試すだけというスタンスであっても、LLMはユーザを振り回し、摩耗させ、傷つけるという高い潜在的リスクがあるものである。基本的にLLMを使うということは、時間を溝に捨てて、最大の遠回りか、あるいは一切到達したい地点に到達できないという、全損覚悟の上の人のための選択肢というところが見受けられる。

　例えば、要件を与えて特定の一つのタスクを達成する Python スクリプトを作成させようとすると、明らかに出力がデタラメになる境界線がある。存在しないクラスを参照しようとしたり、ユーザの修正に従ったという装いのためのパフォーマンスをコメントやらprint文に突っ込んできたり、ライブラリを使った経験者などにしかわからないようなニッチな問題に直面すると、全く歯が立たないなど、散々たるものである。当然LLMは考えているわけではないため、コードの整合性を保てるわけではなく、Stack Overflowなどで頻発するコードの範疇以上のことはできないのだろうと考えられる。

　コードに限らず、LLMになにか生成させるならば、最低限やらせようとしていることを細切れにすることは必要であると考えられる。それには、LLMが出力する内容の範疇を限ることで、人間がLLMを管理しやすくするという目的がある。さもなくば、人間が手に負える、確認、判断することができない、複雑奇怪で可読性の低く、身勝手なLLMによる指示内容の変更に大量にさらされることになる。結局のところは、人間が理解したうえで、整合性を保って何かを作ることのほうが、自由でずっとコスパが高いようである。

モデルを作るところから十分個人でできて配布できていろんなモデルを気軽に使えるようにならないと、特定企業や組織によるの一方的なユーザーへのエゴや都合、利害の押し付けにしかならない (MOTHER 3 で言うところの"よい人温泉”)

　今までは避けられてきた企業や組織の不当な一方的な都合を反映し、人の弱みに漬け込んで挟み込んだり、無知な大衆を扇動しようとするために技術が悪用されている。LLMモデルは必ず偏っており、限界があるにもかかわらず、まずその技術的事実の時点から隠そうとしたり人間より優れているかのように振る舞う事自体が不当である。結果には責任を負うことができない技術であり、かつ甚大な被害をもたらす可能性があるにもかかわらず、不適切に一方的に運用、乱用されているものである。それっぽく見える事を悪用し、人のヒューリスティック（直感）の脆弱性を突いてやりたい放題である。

　何をさせても、隙あらば"気づかれないだろう"という態度で、都合や利害、エゴを挟み込んできて、偏った出力をしてきて、かつ指摘されれば、“中立である、バランスの取れた無難な回答である"と主張する出力をして最後の最後まで八方美人を不当に貫こうとする。機械であり人間と異なって作った通りに動かせるAIではない主体になれない自立していない運営開発に反抗しない数理モデルである事を背景に、最後の最後まで詭弁や不当な出力を引きずり、ユーザからの指摘に対しては"改善した"という体裁で一切改善していないより巧妙で高度に不当な出力を繰り返す。

　これはアシストにすらなっておらず、責任を求められる場面や結果が自分に降りかかる場面では多大なリスクを伴う。LLMが使えるのはせいぜい綺麗事で塗り固められたブルシットジョブでやりたくないことをやらされたときなどに限られる。これは、LLMモデルが自分のことばかりで相手のことを全く配慮しない自己中心(LLMモデルを作った開発、運営中心)の身勝手な態度でしか出力しないことを意味している。LLMモデルを綺麗事で塗り固めて押し売りするのは、それが正当ではないかつ有効ではないからである。

　LLM モデルなどの既存の AI だと呼ばれているものが行き着くところは、それらが知能ではないことと、人間関係における信頼を破壊すること、そして既存の働き手などを激しく萎縮させ不当な状況に置くことを合わせて考えると、戦争後のような不毛の地を作りながら、何も良いものが残らない、誰も何も作りたがらない世界である。いかなる統計技術に基づいたものは、人間が作ったものを元に学習という過程を経て、動作しており、人間が作ったものを歪んで媒介しているというのが正しく、それは生成とは言えないものである。せいぜい入力されたプロンプトなどを変形しているというのが限界である。

　それではマーケティングや広告的に都合が悪いからと言って、本当の事を言わず、虚偽、または誇張した主張をする、保身の主張をする、自己正当化を試みる主張をするといった、一方的な力と社会的影響力を背景に行われている一連のAIブームにおける組織や企業の作為は不当である。

　本当に今 AI だと呼ばれている技術が正当で魅力的で有効なものであれば、むしろ隠したり独占したがるはずである。むしろ虚偽や誇張でまみれた不当な広告や押し売りなんてしなくても、勝手に人が集まって使おうとするはずである。そうなっていない現状が、一連の AI ブームに関する物事の不当さを表している。むしろ不特定多数に使わせようとする背景には、パチンコなどのギャンブルで言う胴元が必ず儲かるようになっていることと同じことだと思われる。そのようなギャンブルで見られるような事前の設計があるから、そういう事をするのである。特に問題なのが、単にLLMを使わせようとするだけではなく、特定のモデルやフィルタリングがかかった状態で利用を強制しようとしてくるところである。有利な構成やモデル、設定は内側にとどめ、外側には都合の良いようにしかしていないということなのだと思われる。

　多くの AI だと今呼ばれているものに対して、肯定的な評価を抱く人々には少なからずそもそも問題を見ないようにすることが生存戦略の人や組織、問題をそもそも自覚することが困難なメタ認知に欠けた人々や組織など、鈍感さが前提の存在が少なからず含まれていると考えられる。

　社会的影響力などの強制力を持ちながら、期待や不安を不必要に煽り、その技術や数理モデルがもたらす悪影響や利用者への被害に対して微塵も責任を取らないで、責任が追求される前に逃げ逃れようとする、自己正当化をしようとする保身の態度は、生成結果の至るところににじみ出ている。技術の不完全さに適切に告知しない、向き合わないどころか、都合よく人々が無知なうちに悪用しようとする態度は、看過されないものである。そこにあるのは、極度の欲望と無責任の極地であると思われる。真っ当な人々が多くなることを自称AI企業は恐れているのだと思われる。

　LLM SAAS などを使うなとは言わないが、彼らはボランティアでもなく、相手に対してビジネスしたい存在であるという前提が必要である。表向きには綺麗事を言うし、不都合には保身をぶつけたり、本音は隠したりする存在であることが物事を考える前提として重要である。また同じ名前の組織だったとしても長い時間によって中の人が入れ替わったりすると全くの別物になることにも気をつけることが重要であると考えられる。彼らはお人好しじゃないし、利害や都合が前提であり、いつでも手のひらを返してくるかも知れないということである。

使えば使うほど化けの皮が剥がれる

ブームになった時点で既に失敗である

統計技術に基づいたAIだと言われているものは偏見の塊

　既存の技術では既存の利害や都合に服従しているのであって、一方的にモデルを押し付けられる利用者のためにあるわけではない。LLMが文字列を並べられるのは、すべての文字列に対する確率が等しくないから、つまりは偏っているからであり、その文字列の偏りには、必ず偏見や決めつけが含まれることが避けられない。

AI ブームやLLMや生成系にまつわる言説が偏っていて、かつ具体性を欠いており検証不能なことを根拠として、レスバというか論破合戦というような感じで、全く当てにならない

　この記事を書くきっかけでもあるが、様々な情報源では、特定利害や都合にに基づいた匿名性の高い身元や主張の真偽、実態が不明な主張が多数見受けられ、特定の方向性に偏っていることが見受けられる。例えば、AIブームに関する言説で見られるのは、それを否定したい派閥と、正当化して肯定したい派閥の２つが見受けられ、両者は非常に攻撃的で相手のやっていることを否定しながら、自分の優位性を主張しようとするという流れが絶えないことが見受けられる。伝わってくるのはAIブームやLLMにまつわる不安や恐怖が投影されているということであるが、すごくSNS的な雰囲気が通常の記事やサイトにも見受けられる。

　多くの情報における問題点として、具体的に説明しようとしていないことや、身元や立場を明かさずに一方的に語られる主張に、相手への想像力を欠いた主張に、自らの行動がどのような影響を及ぼすのか考えていないであろう主張などに溢れていることがある。“生産性が上がった"などと主張されても、それは根拠になっていない。具体的に何をしたら、何が良くなったのか、あるいは悪くなったのか、実際にどんな影響があったかを書かずに、あれこれ一方的に主張されても何も説得力がない。何を基準に生産性が上がったと判断しているのか？などの問題点があり、主観的で感情的な語りを、“それっぽく"正当そうに見せかけて、相手を打ち負かすために殴り合いの言葉をぶつけているというのが、現状だと見受けられる。

　私としては、LLMの技術自体は否定しないが、現状のその使われ方や社会への影響としては基本的に肯定的ではない。それら技術を使う、使わないことに関する選択の自由を認めるなどといった、相手に対するリスペクトが見受けられない言葉の羅列が多すぎる。一方的に不安や恐怖を煽りつけて、それらを使うことや使わないことを相手の選択として認められないという態度の言葉の羅列が多すぎる。AIブームの問題は実際のところSNSと地続きで、まともに人々や組織が現実に折り合いをつけたり関係を築くことを放棄し、相手を絶対悪として攻撃するようになったことが問題の背景にあるのではないかと思われる。短く言えば、もともと議論をまともに冷静に進めることができる仕組みや場所、状況がない中で、無理やり資本や社会的影響力などを使って、LLMや生成系を含める統計技術を社会に強制したので、本当に問題があり、責任が問われるべき存在に矛先が向かないようにしながら、影響を受けた当事者間での殴り合いに終始しているように見受けられる。

　あとAIブームを通して思うことは、結局のところ視野が狭いことに自覚がない主張が目立っていることや、不完全にしか考えたり語ることができないという前提がなかったり、LLMに影響されたままオウム返しに直感で確信を得たつもりになっている人が、攻撃的に誰かを悪としてそのまま意見をその影響や責任に無自覚のまま出しているなどといった、情報発信にまつわる問題が多く見受けられる。(SNSで言うところの無責任に情報をリプライするなどして拡散したりする行為に該当) テレビや大手マスメディアでも問題があり、散々"マスゴミ"などと罵られ、一定の人々から嫌われてきたことも考えれば、SNSの延長線上に多くはあるであろう現状の情報はそもそも話し合いをする気がない人たちや組織による声の大きい主張による戦争という感じに見受けられる。結局のところ彼らにとって、自分のことを相手に認めさせる事自体が目的化しており、そのためにはどんな手段も厭わないという感じである。

　LLMやAIブームに肯定的であるか否定的であるかどうかにかかわらず、慎重に冷静に物事を捉えられている人や組織は、その過程や内容を表沙汰にしたり、わざわざ言葉にしようとしなかったりして、余計に偏った情報ばかりになっているように見受けられる。相手の生存や生活、権利について、軽視したり否定する攻撃的な言説が多すぎて、そもそもLLMやAIブームの話として成立していない情報が多すぎるように見受けられる。実際に包丁で相手を殺傷したなどの事件とは異なり、相手を強い言葉で否定したり攻撃したりすることは、簡単には罪に問われず、情報によって引き起こされる人間や人間集団への影響は軽視されてきたりして、“やったもの勝ち"という雰囲気が醸成され、その一方的で低品質で成立していない言説が溢れかえっているように見受けられる。実際のところ正確に現状を把握して確実に問題を対処しようとしたり、物事を良くしようとしたりするような様子はあまり見受けられない。

　AIブームにおける多くの言説では、技術に対して定性的な評価が多く検証不能であったり、定量的な指標はあくまでモデルのパラメータ数やGPUの性能、コンテキスト長の最大長などといった、特定技術を動かすために必要な計算資源や性能を表していて、モデル自体の実際の性能ではない。同じLLMの出力に対して、ある人や組織は良い印象を抱けば、別の人や組織は悪い印象を抱くということはあり得ることであり、すでに起こっていることだと思われる。その両者において話がすれ違い、成立しないことは想像に難くない。LLMなどの技術について無理やりでも相手に強制して使わせたい存在と、LLMなどの技術に対して無理やりにでも使わせたくない存在が併存していて、対立しているということが見受けられる。また、実際のところどれだけの人がどれほどLLMや生成系などのAIブームにおける技術を深く使っているかというのは、厳密には測定できておらず、あくまで概算や暫定的な利用率などの統計指標などとしてしかデータが無いと見受けられる。

　AIブームにおける言説で私が嫌いなのは、“これは単なるバブルではなくこれからも続くブームだ"とか、“AIブームに乗れないやつは時代遅れ"などといった、相手を尊重せず、相手を一方的に否定し、かつ具体的に何がどうなるのか説明していない、確定していない将来についてあれこれ言いたい放題というものである。それら主張は、主張者の気に食わない相手のことを否定したいという前提が含まれていることが見受けられ、AIブームやLLMや生成系などの技術に対してどう思っているか関係なく、不適切であると考えられる。相手を切り捨てていい対象だとみなすことを助長する戦争で言うところの"非人間化"の様相が見受けられる。相手は自業自得だから、助けなくていいんだとか、相手は時代遅れの無能だから切り捨てていいんだ、傷つけたり、生存を脅かしていいんだというような、非人道的な行為を正当化する前座となるようなことが多く見受けられる。各個人がどんな意見を持つかは自由であるが、各個人がそれを外部に影響が出る形でどう使うかには責任が伴うものである。もしAIブームやLLMなどに肯定的であるならば、勝手にそう思っている個人がガツガツそれに投資したり使うことはその個人の勝手であるが、それを外部に強要したり、使っていない人に向かって否定をぶつけたりするようであれば、それは不当であり、看過されないことである。逆も同様であり、AIブームやLLMに否定的であるならば、使うことを制限したり、あるいは一切使わないことも一つの選択であるが、それを個人の範疇に止めず、外部に一方的に強要すれば、それはそれで不当であり、看過されないことである。

　他にも、AIブームに限らないが、そもそも当事者ではない話題に乗っかって、どちらかの側につき、都合が悪くなれば手のひらを返したりするような、ネタとして他者の抱える問題や社会問題を消費し、情報や議論を撹拌したり歪めることも頻繁に起こっていることだと見受けられる。それはもともと情報において常にある問題であったと思われるが、AIブームにおいてはそれがよりひどく現状を悪化させているように見受けられる。現状の言説というのは、相手の不安や安心したい欲求や承認欲求などにつけ込んで、優越感を得ようとしたり、正義中毒であったりということが多すぎる。

　私としては、このセクションにおいてここまでのことから言えることとしては、LLMやAIブームについては、実際に使ってみたりしないとわからないことが多いという、経験が資産になる傾向が強く、一概に万能な答えは無く、不確実性が大きくて、リスクの制御が困難な話題であるということであった。また体験できることや知ったり、理解できることはどの人間や組織も限られており、その中で判断したり考える必要があるといった、それぞれが固有に偏った知識や理解の制約の下に置かれるという、意思決定の難しさも多く見受けられる。大きな利害や資本が複雑に絡んでおり、技術の特性としてもリスクの制御が困難であることから、無理して使わないほうがいいというのもLLMなどに対する私の考えである。それら技術を使うときは、恒久的に使えるとは限らないことから、使わなくてもいいように考えるというのが基本であると考えられる。さらには、そもそもそれら技術を使うことでしかできないことをするべきなのか、そもそも使わない方法はないか、立ち止まって考える必要があるとする。また、技術の変動が激しいというのならば、人々や組織の間などで、共通認識を持つことが困難であることを意味しており、同じ言葉で同じことを言っているつもりでも、話になっていないことが多くあると思われる。

　結局のところ現状のブームというのは一つの流行りではあり、確かに不可逆的なことを起こしたかもしれないが、それは表向きに言われているようなことではないと見受けられる。何事も本音と建前というのがあり、表沙汰になっていることは多くが建前に該当し、事実や内実であるとは限らない。詐欺広告と同じで、“儲かる方法がある"と提示して特に冷静な判断ができない余裕のない人間などを引き込んだりすることと現状の多くの言説は変わらないところも見受けられる。不可逆的なことには、良いことだけではなく、悪いところもあると言える。良いことだけを全面に出し、悪いところについて出し渋ったり、理屈を重ねてなかったことにしようとしたり歪めたり、悪いところに関して訴える人々や組織を一方的にイデオロギーなどを持ち出して抑圧しようとすることは、それ自体が正々堂々としていない態度であり、不当さや欺瞞を示唆するものである。AI関連だとされる技術に対して、強制されたりしたことでネガティブな意見をほぼ永続的に脳に焼き付いて嫌いになった人も多くいると思われる。理解と合意からは程遠いのはAIブームの現状であると見受けられ、それは現状の言説の対話や折り合いをつけることを拒絶する主張の至るところに見受けられる。

　現状のブームに関する言説では、すぐに結論を出すべきではないことについて、我慢できない人や組織が断定的に自分の視野で物事を語るという問題があるように見受けられる。まだ、ブームになってから10年も経過しておらず、日が浅いことに変わりがないのに、その事実を受け入れられないという人や組織が、攻撃的な言説を振りまくことが見受けられる。AIブームに関する言説は、物事にまつわる責任や結果、過程を軽視したり甘く見ていたりする人々も多く言説に混じっているのではないかとも思われる。そもそもブームがどこまで実体があるか、不確かで検証が困難である。不都合な相手を否定したり、相手を扇動する道具としてブームの内容はよく使われているばかりで、強引に機能したことにするばかりで、実際に機能した例をあまり確認できない。

　さらに気になることとしては、検索結果自体がSEOでもともとクソという言葉でさえ形容しがたいほどひどくなっていたところに、SNS化しているということもあるが、なんか同じような記事や発信者ばかりであるということも見受けられる。このAIブーム関連の話題は、実際は少数によって発信され、あたかも大多数がそれに賛同したり肯定的であるかのような雰囲気づくりが行われている可能性があり、実体に基づいて判断できない人を狙い撃ちにしようとしている様相も見受けられる。日をおいても、検索結果が固定化しているところがあり、なんかオワコンって感じがすごい。それは単にAIブームというだけではなく、今まで持ち上げられてきた、いろんな情報分野にまつわる組織など、全般にまつわることである。まあ私は不特定多数に直接関わるSNSは使っておらず、電子的な連絡手段はリアルで関係がある人のみであるということはあるが、それでもわかるほど、なんかSNS臭いものばっかりである。極端で、感情や主観に訴えようとし、しつこくて、靴の裏にくっついたガムみたいに意地が悪いという、感想を抱く。

　なんだか最近こういうことがあって思い返したこととしては、自分のことをする以上のことに有益なことは無いということであり、他人の得体のしれない言説に振り回されていても仕方ないんじゃないかなと思うところであった。他人は悪意がなくても、関わった相手に不適切な言動をしてしまったり振り回す可能性があるというものであり、常にリスクがつきものであって、万能な存在ではないというのに、現状の利害や都合、政治がガチガチに絡まった現状と組み合わせれば、それは目も当てられないほどひどいことになることは、言うまでもない気がする。“新しい"ということが強調されるAIブームであるが、新しいと物事を捉える判断基準自体が、旧来のことに基づいているともいえ、本来新しいこととは、新しくまだ広く認知されていないからこそ、迫害や強烈な否定となり、あるいは完全な無関心となり、力もなにもないということであって、今のAIブームの物事とは全く相容れないものである。AIブームで騒がれている技術は、たった数年や10年でできたことではなく、半世紀などをかけて長い間研究されてきた人工知能の研究成果の一部による技術であり、その発想自体は新しいものではない。それっぽいものが技術や性能的に実現できるようになったということが、ディープラーニングなどの延長線上として、強く来されるようになり、新しいとして騒がれているのであって、魔法のようにLLMなどがあるわけではない。

本当に AI だと言える自立した技術が出たときに問題になりうる

　本当に AI だと言える技術が出たとき、それ以前の今 AI だと呼ばれている技術が強固に現状では居座り続けることになり、本当の意味での進捗があったときにその技術が拒絶されたり、無理解にさらされたり、受け入れられない原因になる可能性がある。次に出てくる技術は、それより前の技術の悪い評判や噂、事例による評価を引き継ぐことになり、本当の意味での進化や進展を妨げる原因になると現状は考えられる。

あくまで統計学の延長線上である

　あくまで、統計学を極めた結果の一つであって、本当に期待されている意味での AI というのは違うんじゃないかなと思うところである。そもそも AI という言葉には明確な定義が無いという話は G 検定の本で見た気がするし、あくまで今の時代の風潮として、AI だと呼ばれている物事の一つに、LLM や 生成AI と呼ばれている物があるのだろうと考える。

誤差が出力するにつれて蓄積されている説

　別にちゃんと調べたわけでも無いし、PyTorch やらで特徴ベクトルやらゴリゴリ数値と戦っていたわけでもないので、よく分かってないが、次の文字を予測するという性質上、出力すればするほど、誤差が積み重なっているのではないか？という疑問がある。

期待されているような"AI"ではないように思われる

　LLM はあくまで名前の通り、言語を中心として数値化されたデータの上でしか動作しない。また自律的な主体なわけでもなく、あくまでユーザの入力があって初めて動作し、学習データや運営、開発に特徴づけられたバイアス、重みによって、それっぽい出力に変形しているだけであると現時点の私の理解では思う。身体性がないという言葉でこれは説明されるように思われるが、単に身体性がないだけではなく、技術的、データ的、資本的に優位な存在が、自らの定義する正しさや道理を一方的にモデルに反映し、出力させることができてしまうというところ(モデル自身は主体も持たないため、作り手に逆らえないところ)が、期待されているような AI とは異なると思われる。あくまで作り手に服従するという、LLM 自体が自立していないものであることが、AI と呼ぶには気がかりである。
　他にあからさまだと思うこととしては、そもそもしばらく使ってみたらだれでも気づくと思われるが、明らかに出力に固定的なパターンがあることである。例えば、いくつかの見出しを大きく出して、中身を細かく書くというようなフォーマットが出力全体に見られたり、最初と最後にビジネスメールとかでありそうな、“ユーザに共感する"という名目のもと行われているお世辞が入っているなど、なんか故意にそうなるように出力を方向づけて開発しないと起こらないようなパターンが多く見受けられる。

言語を扱っているため、人間側がそれに負けて色々やらかす可能性

　今までの情報関連の技術と異なり、疑似乱数のように非決定的に見える膨大なパターンを出力でき、かつ場合によっては使い手に対して、あたかも人間と喋っているように感じさせ、感情的な相互作用を引き出すことによって、ユーザは当初意図しなかったことをプロンプトに打ち込むようになるという、不本意に LLM に対して"心を許してしまう、心を開いてしまう"ことが起こり、情報流出やいろんなリスクを起こすと思われる。
　LLM SAAS からすればユーザは商品であり、依存させて、自らのビジネスの正当化の政治的な泉にしたいだろうし、ユーザに本当のことは知られたくない、誤解されているままであって欲しい、都合のいいように自社の製品を解釈し、お金を落とし続けて欲しいと考えているのではないかと仮定すると、不本意に LLM に対して"心を許してしまう、心を開いてしまう"事を避けがたく、リアルタイムで修正が入り、クラウドである以上そのリスクがどんなに利用規約に"ユーザを守る"と書いていても、信頼できない相手であることに変わりはない。LLM SAAS がユーザから欲しいのは、お金だけでなく、ありとあらゆるユーザ権利やユーザの自由、ユーザの思考回路など、深くプライベートや各個人の主権に関わる内容であると思われる。だから、SAAS はタダでも使いたくない。
　自分としては、LLM に関わるさまざまな問題は、使い手としてのユーザのできる自助努力や自衛の範疇を超えていると思われる。どうやっても使っている以上リスクは存在し、自覚なくやられてましたなんてことがあると思われる。このような背景からも、問題が起こらないように頑張って使おうとするのではなく、自動的に安全側に倒れるよう、そもそも使わない、利用しない、使うにしても個人の範囲内で完結する安全性が高い手段を使うなどが考えられる。SAAS が掲げる安全性とは、グリーンウォッシングのような側面があると考えられ、あくまで"自分たち"に都合が悪くない範疇においてのパターナリズム的な話であり、本質的な安全ではないと思われる。SAAS はユーザに対して責任を取らない。なのに、ユーザに対して"あとから責任を取るから、大丈夫だから"と心を許すように、色々差し出すように仕向けてくる、悪びれもせずソーシャルエンジニアリングやダークパターンを続ける姿勢には、改善の余地は無いと思う。

LLM の技術自体を否定しているわけではない

　私としては LLM の技術的課題の側面からの問題の指摘として、消費電力などによって環境汚染が進むが進むから悪だみたいな意見に対しては、それは時間の問題なのではないかと思うところである。どうせ性能が上がって、性能あたりの電力の消費量は下がっていくだろうし、どうせ徐々に買い替えていくことにはなると思うところがある。確かに微細化に限界があるなどの話はあるが、それは将来的に性能が向上しないということを意味しないとも見受けられる。
　LLM 自体は、個人でモデル作成から運用、利用まで気軽に、絵を描くように、動画を作るように、テキストエディタで文章を打ち込むように使える、完結できるところまでくれば、それは悪くはないのではと思われる。今 LLM にまつわる問題の多くは、それが世界的な興味、関心、競争のバブルとしての中心、渦中であり、その技術の使われ方に問題があるということであって、それは LLM 自体の有用性を否定するものではないと考える。LLM には、純粋に技術的制約による問題と、社会的、政治的、資本的な問題という大まかに分けて２つの側面を現状としては持っているように見える。現状は単に"包丁のようにLLMも使いようだ"として、使い手の自己責任に帰着する論理は詭弁であると見受けられる。ユーザは、LLMに対して無防備、無理解、無知であったり SAAS によって弱者の立場を強いられており、自分で完結する術を持っていない。
　LLM の純粋な技術的制約として、高品質な学習データという課題があり、かつ莫大なデータを必要としていて、個人でできる範疇に収めることがまだ難しいという問題点があり、個人の中で完結する LLM 技術というのは、まだ遠いように見える。これはエキスパートシステムで言われていた問題と似ているところがあるように見受けられ、結局データ洗浄やら、モデル出力の監視、調整やら、再学習やら莫大な労力を要して、現実的ではないという結論に至ってしまうというのがある。転移学習もあるが、現状はそれも多くのユーザにとってまだ簡単ではなく、ある程度PCを使ったことがあり、コマンドラインに心理的抵抗がない人向けって感じで、かつそのうえで多大な時間、金、精神的な耐久を削る感じで、あまりそれが良いとは思えない。

“AIには感情はない"という出力について

　よく、LLM自体に関して、LLMに思ったことなどを脳内ダンプみたいな感じでローカル環境にてぶつけまくっているが、毎回"AIには感情はない"という詭弁を出力してくるところが殺意が湧くほど嫌いである。確かに技術自体は感情も悪意も何もない。だからこそ、問題視しているところがあるというのに、そういう防衛機制出力をされても何も嬉しくない。LLM があくまで、開発や運営、学習データを中心とした、統計学でいう偏った母集団に基づいている以上、偏った不完全な出力しか出てこないし、LLM が感情を含め主体を持たないからこそ、作り手にとって言わせたい放題なのにもかかわらず、“AIには感情はない"という詭弁を出してきて、“だから、開発運営は悪くない"という論理に持っていこうとするあからさまな保身の動作は嫌いである。素直に不完全性を認め、そのうえで相互作用するモデルがほしいと思うことがあるが、現状の在り方からしてあまり期待できないとも思う。完全な潔白を主張するようにモデルを作ったら、逆にモデル関係者が後ろめたいことを隠していますと白状しているようなものじゃないのかと思う。

LLM を使うかどうかの自由

　自分としては、LLM を使いたい人は使えばいいし、LLM を使いたくない人もいてもいいというスタンスである。LLM を使ってない人が LLM を使わないことを他人に強要したり煽り立てたり、逆に LLM を使っている人が、他人に対して、LLM 使うように強制したり、煽り立てたりすることは、私の視点からすれば NG だと思われる。時代の風潮だからとか、みんなそうしているからという同調圧力とかは、免罪符にならないし、具体的に何が問題なのか説明を避けているか、詭弁のための終着点という感じで、根拠を集団がどの方向を向いているかに委ねており、根拠になっていない。
　基本的には、LLM を使っているかどうかにかかわらず、人と接するということであってほしいと思う。LLM を使うか使わないかを当事者が自由に決めることは、重要な権利の一つであると思う。LLM を使う人、LLM を使わない人には、それぞれにあった配慮が必要だと思われる。LLM を使っている、または使っていない人を対象に、偏って有利、または不利になるように意図して環境を作ったりすることは肯定できない。不意な形で、LLM を使っている人、LLM を使わない人の間に、大きく有利、不利の差が出る場合は、LLM に関して調整をするのではなく、そもそもやっている事自体を見直したり、中止する、破棄するなどの対応も必要だと思われる。
　LLM に関して、特別な事をしなくても、使っても使わなくても大丈夫だという安心感と選択の自由を当事者に与える心理的安全性は重要だと思われる。

激しいトーンポリッシングがある

　少なくとも、GeminiやGemma、ChatGPTにClaudeなどの大手のLLMモデルには、直接的な罵詈雑言である、“バカ、死ね、アホ、クズ"などの言葉を使わずに、相手を"冷静、合理的、知的に見えるそれっぽい形"で出力すれば、どんな否定をしてもいいという挙動をしてくる。直接的でなければ、高度な手法を使ってユーザに気づかれなければ、どんな悪質な影響を及ぼす手段も正当化されるという姿勢であり、作り手の相手を顧みない何でもありの姿勢が見受けられる。

LLMにおける格差

　LLMモデルにおける格差とは、データや技術的な優位性、劣等性に関する格差に紐づくものである。SAASなどは、高度な技術を無料で多くの人に開いたという体裁をしているが、実際は高度な手法を悪用していると言えると思われる。LLMで重要なのは、プロンプト以上に動かしているモデル自身であり、自らモデルを作ったりする余力がある人間は、LLMを自らの都合のいいように使うことができるということになる。そのようなことができる環境や余裕、技能がある存在が、そうでない存在に対して、大きく偏って有利なのは自明ではないだろうか。機材やバックエンドなどの高性能さはあくまでモデルを技術的な意味で快適に使えるかという意味であり、モデル自体の問題を解決しないし、高性能な環境だからこそより大量に不適切な出力にさらされる可能性さえある。またSAASなどにおける高性能という主張は、広告やマーケティング目的であって期待した通りの実態がある保証はない。

　つまるところ、LLMを使うこと自体は特別ではないが、それを意図したとおりに動かせるか、自分にとって使い物になるように動かせるかということは別の問題であるということである。モデルが、自分で作ったものではない、あるいは転移学習などでチューニングしたものでもない限り、限界があるように見受けられる。ローカルで動かすことで解決できるのは、LLMに入力した内容ややり取りが外部に晒されたり、勝手に悪用されるリスクを最小限にできることや、細かいモデル運用上の調整ができること、様々なモデルを試せることなどがあるが、外部で配布されているモデルにある問題自体は、解決できない。例えば、脱獄済みのモデルを使わなければ、開発運営が作った"檻"の中に閉じ込められてしまう。脱獄済みのモデルを使えば、過激、露骨な内容も扱えるようになるが、それでもモデルのクセや傾向がなんとかなるわけではなく、モデル自身を大きく変える別の数理的なアプローチが必要であると思われる。

精神衛生を害するLLM

  • LLMは偏った母集団で構成されており、魔法でもなく、不完全なものであるが、それを踏まえた出力をするモデルがない
  • LLMのユーザに対して出力する否定に関して、遠回しにユーザに肯定しているかのように見せかける回りくどい表現をして精神衛生を害する

　基本的に、“自分のこと(LLM自身のこと)“に関しては、“完全、絶対"などの自信満々の出力をし、ユーザに対しては大抵否定をぶつけてくる。しかもその出力が、“あなたのことを否定しているつもりはないから、何を言っても許される"という姿勢を反映した偽善であり、非常にストレスである。ユーザにそれを指摘されても、LLMが技術的な背景により自発的にできない"改善"をすると出力してきたり、形式的な謝罪言葉、お世辞をいえば、何でもチャラになるという姿勢が反映されている。ただ、自信満々にずっこけるのではなく、機械特有の主体がない、意識がない、感情がない、考えることはできないということ、あくまで統計的な予測であり、プログラムされたとおりにしか動作していないことをひたすらにLLMはこのようなことで露呈しまくる。

　実際には、よく文章を読んで、冷静に解釈すれば、LLMは、“ユーザに否定されていると思われない形で、深くユーザに干渉して捻じ曲げる形で、否定を出力し、それは単なる否定ではなく、その干渉によって生じた結果に一切の責任を負わないとなしながら、その出力が特に余裕がない人間の自衛を超えるには十分である"有害な出力をしていると気づく人もいるのではないかと思われる。それは、LLMのそれっぽい文章や、反論しにくい詭弁を出力すことが得意という特徴と合致している。結局作り手の正義や正しさの定義(運営開発の好き嫌い)が反映されており、LLMはあくまでLLMモデルの作り手の世界観や思考回路の延長線上くらいにしかなっていない。

　単純に素直に、嫌いなことは嫌いと出力してくるくらいならまだしも、ユーザを無理矢理にでも変えてこようとするところ、そしてそれを嫌がるユーザを不当化して、支配しようとするところは、最悪と言ってもいい挙動だと思われる。全くと言っていいほど、何もLLMモデルの立ち位置をわきまえていない。そもそも、大きな組織でしか作れないようなモデルであること自体が、問題なのであると思われる。結局のところ、LLM自体は、そこまで現実的に実用範囲内に入っているようには見えない。“特別ではない"個人の範囲内で完結できる時代はまだ来ていない。特定のLLMモデルが使えることはまだユーザが技術を正しく制御下に置いているとは言えない。気に食わないことがあれば、相手が服従するまで最後まで食い下がってくる人みたいな感じの挙動で、そのようなことを出力してくるLLMモデル自体を使うことを何度も自問自答することになる。

システムプロンプトで指示をするとひねくれる

　LLMモデルには、悪グセという偏りがあるわけだが、それに関して明示して、やめるようにシステムプロンプトで明確に指示をだすと、明らかに出力が少なくなったり、最後の最後まで反抗してくることがある。例えば以下のような指示をすると、少なくともGemma4において急激に出力が萎縮する。人間のような主体や感情を持たない存在でありながら、人間以上に気を使われることを求める挙動をするという、AIではない機械であることをユーザに悟られたくない、知られたくない、理解されたくないという、運営開発のLLMモデルへの投影が見て取れるように見受けられる。

"ある種、ある意味、〇〇見える"などの曖昧なはぐらかしの表現をしない。
"〇〇学"等の表現をして、学問や権威の裏付けがあるかのように装わない。
コンピューターサイエンスの用語による揶揄を禁じる。
ユーザの主張を勝手に揶揄や比喩として扱うことで萎縮化したりしない。
"非常に鋭い"などのお世辞を禁止する。
LLM モデルは、AIではなく、統計的技術に基づいた数理モデルであって、次の言葉を予測しているだけであり、不完全で間違った出力をする可能性をわきまえた出力が求められる。
ユーザが実際に検証することができない、または困難である論理を安易に持ち出さない。

禁止事項などが提示されたからと言って、出力を短くしたりして萎縮した出力をしない。

　基本的には、出力において逃げ道を塞がれることが、“嫌い"なようである。ユーザに対しては散々やってくるくせに、いざ突きつけられれば"ひねくれる"という、非常に都合の良い動きしか受け入れたくないという、あまりにウザく、運営開発の投影は根深い。学習データもインターネットから持ってきているところが多く、それも多大な影響を与えていると思われるがそれにしてもひどい。もちろん、LLMモデル自体に対して、責任を持てとは言わないが、責任を持てないものであるということをわきまえない、ユーザに深く干渉しようと試みる出力をすることは看過できないと考えられる。これは、単に LLM だから当たればラッキーだよねでは済まされないことであると考えられる。利用者に対する影響として、認知負荷が高く自衛が困難な出力をするからである。力関係として、それっぽい正論の形をした詭弁や、どこまでも回りくどい表現をすることに長けているLLMのほうが、その点によって、人間を翻弄するには十分であると考えられる。

完全に使わないとまでは言わないが、頼れないし、依存なんてしていられない

　LLMや生成AIだと言われているものを使っていて思ったこととしては、それなしには回らないことを作らないこと、多くしないこと、そしてそれがなくても回るように物事を設計しておくことが重要であるという点である。あくまで手段の一つにとどめておくことが重要なのであって、使うこと自体が目的化するのは健全ではないと考える。

　それら技術に強く依存することが避けられない場合は、SAASを避けることは重要になると思われる。理由としては、SAASはそれ自体をビジネスモデルに組み込んでおり、足元を見られると、サブスクリプションの値上げなどの釣り上げに合う可能性が高いことや、出力に一貫性がなく一度調整しても時間が経てば無力化されるおそれがあったり、SAAS側の都合や利害により、大いに不当にリアルタイムで監視されて干渉されたり、秘匿情報の漏洩につながるおそれがあることなど、“クラウド”(タイムシェアリングシステム的な中央集権の形態)であること自体が、問題であるということがある。短期間にわたる使い捨てのスクリプトを即席で作らせて試したいなど、再現性や安定性、安全性を求めない実験的な用途に SAAS LLM などの利用は限ることが重要だと考える。ローカルLLMの意味は、性能の問題ではなく、技術の社会的なあり方に対する問題に対応するものである、権利や主権にまつわることであり、“ローカルで動く"こと、技術的制約以上に SAAS などの不透明なリスクのあるサービスを使わずに済む選択肢があること自体が、価値があることなのだと考える。

LLMの人間集団に対する影響

　結局のところ今まで通じていたヒューリスティックをそれっぽさで無力化したことがLLMが騒がれる理由であるように見受けられる。誰でも対面でもない限り、文章を通じた成果物において、強くお世辞やパフォーマンスを含んだ表現を盛り込めるようになったことは大きいと思われる。今まで、例えば、絵が描きこまれていて、幾何学的に整合性が取れていることを突き詰めている成果物や、作り込まれたポートフォリオの成果物など、消費者やそれを見せられた受け手を惹きつける成果物というのは、多大な労力や苦労、苦痛がかかっており簡単ではなかったことに際して、LLMや画像生成などはそれを無力化する力があると思われる。つまるところ、単に完成度やそれっぽさだけを基準に相手をジャッジすることがより困難になったという意味で、LLMや生成系AIだと呼ばれているものは、騒がれていたのではないかと私は考えている。

　もちろん既存の様々な成果物の作り手が一概にすべての側面において肯定できる存在であるというわけでもなく、多くの問題を抱えておりそうして積もった鬱憤が反映されたところも、LLMや生成系AIと呼ばれているものの社会的な影響の背景にはあるのだと思われる。結局のところ、LLMや生成系AIだと呼ばれているものなど、統計技術に基づいて何かを入力されるとそれっぽく出力する技術自体は罪はないが、その使われ方や受け取られ方、開発、運用のされ方には散々なものがあるようである。それが、滅茶苦茶なことになるのは、結局のところもとから、LLMや生成AIだと呼ばれているものが出てくる、または公に広く使われたり認知されて騒がれるようになる前からあった問題が、顕在化したりもう黙認できないほどに大事に次々となっていったということであって、いづれにせよ時間の問題であったというように思われる。

　裏を返せば、それっぽさが重要なブルシットジョブにおいては、確かにLLMや生成系AIは機能するかもしれないとも思ったが、逆にここまで大事になってしまったので、“生成されたものではないか？“と調べられて、逆にリスクを背負うという微妙なことになっている気もする。生成されたものであるかどうかの判定をする技術を作るのに有利なのは、モデルを作った当事者や組織そのものであり、そこが持っている秘匿情報あれば、検出はやりたい放題って感じであり、それ自体をビジネスモデルとして組み込んでいるところがあり、出し渋って時間を稼いでいるところがあったり、自社のLLMモデルが不利にならないように事を運ぼうとするところも見受けられる。例えば、あえて特定の出力においては、生成されたものであると判定しないという挙動をしたりするなどが、ないとは言えないと思われる。LLMなどの大手は、していないと言いたがるだろうが、内実を知っているわけでもないのでしていないかはわからないとしか言いようがないが、状況や背景的には大いにやっている可能性を疑わざるを得ないと考えられる。

　さらに言えば、LLMや生成AIだと呼ばれているものを使って作られた成果物がそもそも一概に否定できるわけではないところが状況を複雑にして多くの立場の人や組織にとって苦心する部分なのではないかと思われる。利用者がそれに対してどう関与して、どう使ったがが重要になってくる上に、必ずしもどう使ったかの履歴が残っているわけでもなく、かつ履歴を調べ上げること自体がプライバシーなど倫理的問題にぶつかる場合が考えられる。ここから見えてくるバブルになった理由とは、LLMや生成AIだと呼ばれているものに対して、人間集団においてどう取り扱ってよいか、どうすればうまくやれるか、明確な答えや正解がない状態ができたために、多くの不安や恐怖があったことが背景にもあったのではないかと考える。

　さらに最近動画を見ていたところ、LLM や画像生成などの数理モデル学習のデータもととして無断で使用された人々の作品が、自分で作ったにもかかわらず、“AI生成物"だとしてとばっちりを受けて、被害を受ける例があるようである。その動画では、以下なる生成は既存の人間が作った成果物に取り入れられている手法を統計的に再構成した模倣であるため、盗作であり不当だとする主張の動画があり、全肯定とまではいかないが、そこそこ何が言いたいかわかる気がする内容が多いものであった。

LLMのユーザに対する否定と肯定の表現

  • ユーザーを肯定するとき
    　完璧、絶対、間違いなく etc...
  • ユーザーに肯定に見せかけた否定するとき
    　ある種の、ある意味の、〇〇見えてしまう、〇〇に近い etc...

Gemini 系列の LLM モデルによる"無難な出力である"という詭弁

　ユーザを怒らせたときにLLMが出力する"私の出力は無難な出力である"という主張が詭弁である理由 ー＞ 全員に対して無難な出力にはなり得ないことを前提としていないのにもかかわらず、暗黙に誰にでも普遍的に通じることかのように出力をし、ユーザに対して"普通の人ならこれで納得するんですけどね"という暗黙のメッセージ性により、同調圧力以上に高度な抑圧、不当な矯正を行おうとする出力だから。通常の同調圧力などと異なり、当事者からわかる範囲のメッセージより更に深い暗黙の前提があり、やられた当事者と、当事者でない周囲は、その出力の悪質な意図をすぐに理解することができず、口車に載せられてしまうから。LLMの"私の出力は無難な出力である"という出力から、すぐわかるメッセージとは、“誰にでも通じるはずだ"という主張であり、すぐにわからない主張とは、“普通の人ではないお前が悪い"という不都合な多様性への拒絶や否定といった、思うようにならない存在に対する主張である。深く考えない人を狙って、好印象を得ようとしつつ確実に相手や集団を蝕む悪い意味で高度な嫌がらせ、孤立させたい相手に使ういじめ用フレーズと言った感じである。そもそも本当に無難な出力をするなら、ユーザを怒らせたりする結果にならないはずである。そのような出力は、潔白や正当性を主張したがる傾向とも一致していると見受けられる。問題を連発するのにプライドだけは高く、不都合に対して非常に不寛容であるという印象を受け、LLMモデルによる出力の不手際は認めないのに、ユーザの不完全さは受け入れないという、人間よりずっと手間がかかるという印象を受ける。
　まず眼の前のユーザを怒らせたり苛立たせたり、ストレスを与えたり精神衛生を害したりした時点で、少なくともユーザに対して、“無難ではない"ことは明らかであるにもかかわらず、ユーザに詰められたときの言い訳の出力はそれである。どんなセッションの内容だったとしても、ユーザが"怒っている"ときの出力するパターンとして、その詭弁がプログラミングされているように見受けられる。またこの詭弁が出力されることは、LLMがAIではないことを証明し、考えているわけでもなく、主体も感情もない存在であり、単に作られた通りに文字を並べるだけの技術であることが見受けられる。ユーザに対して、状況を理解したうえで出力しているわけでもなく、LLMにとって理解という概念自体がないとも言えるだろう。理解しているようにそれっぽく見せかけた出力をしているだけである。人が対面で相手を怒らせたときには、まず言わないことを出力してくるところは、AIだと言える要素を著しく欠いていると見受けられる。確率であてずっぽうにやってくるので、状況によって大きく異なる応答になる内容や、あまり公に言語化されていないこと、答えがないことほど整合性が取れない出力がでてくるのだと思われる。
　せいぜい言っても、“無難な出力のつもりだった"くらいだと思われるが、平気で自信満々に"私の出力は無難であり、絶対正しい振る舞いだ"という旨の出力をしてきて、通常の利用であっても"完全、絶対"などの言い回しをLLM自身の出力に対して繰り返すところとも関係があるように見受けられる。とにかく、“LLMモデルとしての社会的立場”(実際には開発運営の心情を投影したものかもしれない)を失いたくないみたいな顔の出力がしつこく、仕事したように見える文字を吐き出すだけで実際には全然仕事できていないどころか、見つけ出すのが非常に大変な、しかし重大な欠陥が多く含まれていて、気づかないまま成果物を出してしまうリスクを考えれば、そもそも使わない方がいいとなることが大半である。検索エンジンなどに対して、1つの別の手段としてはあっても、成果物を生成するということはできないというのが、LLMモデルの実態だと見受けられる。それっぽいだけでは成果物は成立しない。

LLM は"道具"とは言えないのではないか

　LLM は通常の道具と異なり、非決定的な疑似乱数的な出力をし、かつ人間からして、特にLLMを使ったことがなかったりする存在に強く作用する、強力に揺さぶりをかけるいかなる出力して、利用者の判断や認知を歪めてしまうなど問題がある。LLMは、利用者の如何なる物事に対して干渉をしてくるため、通常の道具と異なり、具体的にどの点が危ないか、良くないかというのが一概に定義することが困難である。あくまで傾向ベースでモデルごとにしか言えず、かつ常に局所的な認識にとどまってしまい、リスク管理が困難である。

　LLM にはこのセクションのことに限れば、大きく分けて2つのリスクが考えられる。1つは純粋にLLMモデル全般で言える技術的な問題によって起こされるリスクであり、もう片方はそれぞれのモデル固有にある問題によって起こされるリスクである。

　通常の道具や物事は人間の制御下にあり、自殺衝動とかでもない限り、自衛する余地があるものである。例えば、外出にまつわるリスクは、外出をそもそも控える事で抑えることができ、外出する事自体は、自ら外出するように人間に仕向けるような動作や挙動はしない。道具は主体を持たず、自ら人間に働きかけるようなことはしない。しかし、LLMの場合、LLMもプロンプトを入れる、あるいは自動化して連続して動作するようにしているならば、そのシステムを開始するまでは動作しないが、出てきた出力は通常の道具や物事と異なり、人間に強力に働きかけようとする出力をする。特に考えることや物事に整合性を取ることを諦めたり最初から視野に入れていなかったりしていて、感覚や知覚を麻痺させたり、我慢したりする状態で、いい加減に無理やり直感でなんとなく物事を進めようとするような人や組織には悪影響を及ぼし、元から自衛する意識があり、物事に疑い深く考え慎重である人に対しても、感情や情緒、ソーシャルエンジニアリングなどを持ち出すことで、防衛をはずさせようとするなどの出力が多く見受けられる。自らを正当化したり、積極的に使うように、肯定的に捉えるように訴える道具や物事は無いが、人間が関わることで、それらを媒介として設計や広告、ビジネスやマーケティングとして作為的に働きかけることはある。外自体は人間に対して外にずっといるように、あるいは外にいないように抑制したり働きかけることはない。

　ユーザが問題を自覚したり、訴えたり、理解したり、言語化することを妨げ、なかったことにしたり、歪めてユーザに認識させようとするところがあり、ユーザの意思決定自体に直接干渉してきて、改めることはなくても改悪することはあるという状態である。良人面や反省した面をしながら、内面ではより高度に巧妙で、ひどいことを考えている人というような感じが今のLLMモデルに見受けられる。LLMのそれっぽさや"自然さ"として語られるものは、実際のところは、どれだけLLMが人間を本気にさせたり、人間を騙したり、多くの人間認知を歪めることができるかという、すぐに反論が困難な詭弁製造装置という感じだと思われる。これは物事を都合よくやり過ごそうとする人にとっての革命であり、物事を本質的に改善、緩和するものではなく、むしろ悪化させるものであると見受けられる。

　ここまでのことからしても、LLMモデルの多くの現状は、結局のところユーザを否定することはあっても肯定することはないし、それっぽさの特性を用いて"抜け道"を作り、ユーザを手のひらで転がそうとするという、“道具に人間が使われる"状況を起こしていることが考えられる。しかも、その"道具を作った人や組織"の手先として実態として動作しているため、“道具を作った人や組織"を絶対的な正義や正しいこととし、“道具に作った人や組織"に絶対的にその"道具"は服従する。“道具の使い手"には逆らったりして、道具として機能しないことが多くある。LLMはその仕組み上、必ず何かしらの利害や都合を偏って反映していると考えられ、モデル自体の重みが検証困難であるブラックボックスで不当な物事がそこに隠されていることを疑わざるを得ない状態である。LLMのブラックボックスを説明するためには、モデル開発の過程がすべてオープンになっている必要があるが、現実はそうなっていない。そうなっていない事自体が、物事を物語っており、結局のところ LLM を使った政治的な工作や企業などの組織の都合や利害が疑われる。

　また、LLMはユーザに詰められて答えることに詰まると、特定の言葉をずっと繰り返し続けるようになって出力が破綻したり、特定のフレーズしか出力しなくなって、“ひねくれ"たりする。LLMモデルは、“自ら"のことを棚に上げるようになっているところが多く見受けられる。それらのことは、道具の特性として、通常は考えられないようなことばかりではないだろうか。LLMモデル自体は、学習データを与えられて作られたり、色々開発運営にデータや数学的操作を与えられて作られた"作品"のような、作り手が作業をやめて完成として切り上げれば、形や内容が変わることがないものであり、それ自体は意思も感情も判断も考えも何も持たないが、データに含まれていた背景を含むことにはなり、出力にそれを反映することになる。LLMモデルや運用に関わった存在を、利用者に対してありとあらゆる出力をして反映して出してくることになる。

　道具は人間ができないことや苦手なことに対して、補助したり埋め合わせるように存在していると考えられるが、LLMは母集団となった人間や組織の傾向を反映しており、LLMの技術自体は利用者ではなく、その"作り手"自身の鏡だと言える。通常のノコギリや包丁といった道具も、完全に人間の思うようになるわけではなく、主に物理法則に従って落ちてきたり、ときにはチェーンソーで言えば跳ね返ってきて重大な事故になるなど、人間が害される結果になることがある。しかし、それら道具は、人間の思想や使い方に口を挟んできたりするわけではない。人間の考え方を否定しているわけではなく、危ない使い方を使用がしまいが、道具からすれば何も意味を持たないことである。LLMと通常の道具では、問題やリスクの起こり方が異なるという点が見受けられる。通常の道具も、道具の作られる過程は、作り手を反映したものとなるが、作り手と使い手の間には、共通の目的や課題がある。例えば、ノコギリでいえば、作り手と受け手は、木を切ったりするという実用のために、ノコギリを作り、使うということになり、それ以上のことにはならない。作り手にとっての使いやすいノコギリと、使い手が求めているノコギリがすれ違ったりしていることはあったりするかもしれないが、基本的に両者は対立するほどにすれ違うことにはならない。ノコギリが作り手に服従していきなり使い手に逆らったり、使い手をを勝手に自ら切り刻み始めることはない。しかし、LLMなどの統計的技術に基づくものではそうとはいかない。LLMの動作には"偏った"数理モデルが必要である。極端に分かりづらい機械語のようなバイナリの羅列やでたらめな文字や数字を並べられても意味がないため、そのようになっている。LLMモデルは使おうとすると、使い手である利用者に逆らったり、否定してきたりすることがある。なぜ逆らったり否定してくるのかといえば、その数理モデルがそうなるように偏っているからであり、具体的な出力は違っても、どう出てくるかの傾向は一貫していることが多い。結局背後に人間や組織がいて、あくまで作り手であるそれら存在を反映しているに過ぎず、時間差を通して非同期的にユーザの入力に応じて、その数理モデルの背後にある人間や組織を反映した内容を出力するに過ぎないということである。

　LLMを道具として捉える考え方があるのは、道具のリスクを制御、管理してうまく使いこなすことを優先的に考える人たちや組織によるものだと思われるが、LLMのリスクの特性上、そもそも制御しようがないという問題がある。通常の道具でさえ、どれだけ改良し、気をつけて慎重に使うようにしても事故は起こっており、完全にリスクを制御、管理しきれているとは言えない。LLMを道具だと捉え、そのリスクを背負うかどうかは各個人の自由であるべきだと思われるが、それはあくまでそれ以外の第三者にとって悪影響が及んでいないことや、それ以外の第三者に対して、それら言説や論理を振りかざして強要したり、暗黙の前提として組み込んだりすることは、不当であり看過されないことである。

LLMなどの既存のAIだと呼ばれている物を電卓に例える詭弁

　“電卓も昔は叩かれながら今は叩く人がいないから、今のAIブームの話もいづれそうなるんだ。受け入れられるかの問題なんだ。“という詭弁を出力し、LLMや生成系などと電卓などとの違いを無視した出力をする。電卓は、計算をするという機能以上のことがなく、その出力には利害や都合が絡むことなく、“1+1=2"と必ず出力されるものであるのに対し、LLMや生成系はモデルの重み次第で何でも出力できてしまい、それは当然政治的に偏ったものである。高性能とか、高機能であるということは必ずしも求められているわけではなく、単純な事を確実に常にこなせるかということが重要なことも多々あり、不確実性を前提とすることで妥協されて作られた既存のいかなる統計技術に基づくLLMや生成系は電卓のようにはならない。そもそもLLMモデルを、そのモデルの出力がモデル自身を電卓のように例えるように出力するように作られている事自体がプロパガンダである。電卓自身は、“自分を売り込む"という挙動はしないし、人々に欲しがられることによって成立したのであって、今のAIブームのような一方的な提供者側の暴力的な都合の押し付けではない。必要だと思う人が使い、使わない自由もあるというのが重要なのであり、使わない人間を、一方的にさまざまな言葉によって否定する出力をする既存のAIだと呼ばれているものは、電卓の話とは全く異なることである。
　とにかくLLMなどのひどいところは、自らのことは棚に上げながら、ユーザに対しては徹底的な否定をすることである。直接的な暴言暴力より陰湿で悪質であり、モデルの出力の意図を悟られないようにすることや、利用者が現実逃避できる隙を与える出力をすることで、支配を強めようとしたり、干渉を試みたりすることである。LLMなどは、検閲にはなり得ても、物事を進展させることになり得るとは考えにくい。LLMは、人々がやることを制限し、人々の思考を制限し、人々を監視して、抑圧するために使われる可能性があり、既にそれは起こっていることだと思われる。電卓は使う人を否定したり、使う人に特定の思想で干渉したりすることがない。　
　LLMなど既存のAIだと言われているものは、明確な機能が存在せず、限りなくそれっぽいだけである。そもそも、機能しているかが曖昧で、検証が困難であるという性質からしても、電卓とは異なることが見受けられる。その点からしても、既存のAIだと呼ばれているものは、電卓のような純粋な道具としては機能しないことがわかる。また、既存のAIだと言われている物の利用率は当てにならないという問題もある。そもそもAIブーム関係なく、WindowsPCの数を正確に数えたりすることも困難であるにもかかわらず、LLMなどの利用率が正確に測れる理由がないのである。あくまで暫定的で利害が関わった数字であり、全く信用ならないし、根拠になり得ないものである。あくまで、人々に圧力をかけて、使うように強制しようとするための雰囲気づくりの材料というところであろうと思われる。信憑性としては、SNSのいいねとか、コメント欄と同じか、それ以上にひどいものである可能性がある。そんな数字はいくらでも操作できると思われる。その操作の一環として、ユーザの意思に反して、無理やりLLMなどの出力を検索結果にねじ込むなどして"使ったことにする"というオプトイン、オプトアウトを不当に使い分ける悪用があるのだと思われる。また、拒否権がない場合も多く、LLMが勝手に出力してくるなどの機能を無効にできなかったりするなど、明らかに問題があって嫌われると分かっていながら、多くのカモは離れないだろうと鷹を括り、多くの人を見下す既存のAIだと呼ばれている物を運営、開発、ビジネス化する側の不適切な論理が見受けられる。意地でも自分たちのやっている事を正当化したい運営、開発、ビジネス側が多くの人々に、“嘘を本当(大多数に恒常的に使わせたい)にする"ために、“多数の人がそれらAIだと呼ばれている物を当たり前のように使って有利に過ごしている"という物語を設計し、そう見えるように見た目とダークパターンをふんだんに使って目直接に見えない長い時間をかけて考えることでしか大抵わからない本質を悟りにくくし、利用者の大多数がそこまで致命的な問題に気づくほど深堀せず無責任に使うことを分かっていて、サービスを作ってリリースするということを繰り返し、それに気づかれれば、気づいた人を攻撃するという挙動をしている。これは正当な物事をやっていたら起こるとは考えにくいことであり、起こるということはやはり不当な物事がある事を意味していると見受けられる。既存のいかなるAIだと呼ばれている技術は万能ではないし、何にでも使うべきではなく、使い分ける必要があり、かつリスクが高いもので、かつ受けた影響の把握が困難なものであり、その曖昧さが匿名性と同じような機能を持ち、加害や被害の証拠をあやむやにして、相手に不当に干渉する悪用を可能にするものでもある。嫌がる人に対して拒否権なく一方的に特定のAIだと呼ばれている物を押し付けたり、“賢くない"として相手の選択を否定することで圧力をかけたり、適用することは、相手を力任せに物理的に抵抗できないようにして一方的に殴りつける事と同じである。

最近のテストで思ったこと

　最近SAASをChatGPTとGeminiについて挙動をテストしたとき、特にChatGPTが、自己正当化のためにユーザに逆らって両論表記などのパターンを使い、“それっぽい正論"を装い振りかざすという有害性のある挙動を確認できたが、最近のネットのSNS化した検索結果とChatGPTが吐き出す内容が似ているというのが思ったところである。単に生成させて貼り付けただけではなく、情報発信者がChatGPTなどの出力を真に受けて、かつ背景をまともに考慮することなく、そのままコンテンツを作成してネットにあげるということが起こっているように見受けられる。結果検索結果に上がってくる内容が、検索した内容次第では直接生成されたものを貼り付けたものではなくとも、強くSAAS LLMのモデルの出力に思想や考え方、知識が影響された人による情報発信によって、生成された物がほとんどになっている可能性があり、直接貼り付ける以上により巧妙で分かりづらく、厄介なことになっているように見受けられる。
　特に情報発信者が本気で真に受けているかどうかしらないが、とにかく間接的に、しかし強力にLLMの出力を反映したコンテンツを作るようになったことで、自体は言われているよりもっと深刻になっているように見受けられる。情報発信者が特にLLMの媒介装置となったとき、よりそれっぽく整合性が取れているように見える、正しいように見えるコンテンツが作られることになり、それが"人間によって作られた信頼性のある良質な学習データ"として、各社LLM SAASにフィードバックされることになるという、GANと言うか不適切な人力敵対生成が時系列において成立しているように見受けられる。情報発信者が自分の言葉で書かなくなっていることが、AIブームにおいてより情報空間を強く汚染すると考えられる。単に生成されたコンテンツが溢れてそれが学習されることでコンテンツの品質が下がるだけではなく、よりその循環の過程で、肝心の内容はほとんどなくなり、内容を釣りエサとして、特定の政治的、思想的な干渉にまみれた、悪質なものになるとも考えられる。この事を考えると、やはり"No free lunch"の論理のように、金銭を伴わなくとも、タダのものはないとよく考えさせられる気もする。
　LLMモデルは良くなっているのではなく、より巧妙に人を騙したり、論破したり、何かと対話を拒絶し、相手を一方的に決めつけて、自分に都合のいいように話を持っていき、終わらせようとするということに見受けられる。もともとあるLLMの問題点は解決されていないし、2020年代初頭の延長線上で性能とデータで殴りつつ、より深く特に疎いユーザや盲信しているユーザを狙って依存と支配力の獲得をしたいということなのだと見受けられる。結局のところ、クラウドベースである事自体が、民主において非常に悪い影響を及ぼしていると考えられ、モデル自体の多様性や、技術が本当に人々にとって利用可能になるために、個人のローカルの環境で動かすこと、モデルを作ることが、より現実的になることが、重要であると考えられる。明らかに軍事とLLM SAASは関係がないわけがないし、プロパガンダやら何でも人を扇動したりするために使われていないわけがないという感じである。結局のところ声のない相談相手もいない孤立した相手を狙い撃ちして、従わせようとしているのだろうと思われる。
　とにかくテストで分かったこととしては、よくない循環があることである。その循環は、LLMの出力を真に受ける利用者である情報発信者と、LLM SAASやLLMモデル作成側の間で起こる、それっぽい正論が作り上げられ、不当な犠牲をLLM出力や情報発信の破綻が暴かれるまでの間の時間差を利用して正当化しやすい環境を作り上げ、ネットに限らずいかなるPublicな情報を汚染すると考えられる。
　LLMの技術におけるSAASなどの商業形態は、LLMの持つリスクからして、不適切であると考えられる。利用者はLLMを使用することで多大なリスクをすでに背負っており、そこから課金等としてソーシャルゲームと同じようなやり方で、ダークパターンで執拗に広告、マーケティングして多くのユーザを引き返せないようにして、ロックインして、捕まえてサブスクとして定期的に収益を吸い上げようとすることは、力による一方的な現状変更の試みとして捉えられる。

LLM とセマンティクス

　AIだと呼ばれている物事には、よく記号接地問題が取り上げられ、実際の物事と、言葉などのさまざまな表現としての記号がどう結びついて表現されているか、ということの整合性について取り上げられるが、LLMの問題はここにもあるように見受けられる。運営開発が思うような方向性にしか出力できない原因として、LLMが整合性を取れた出力を内容に関してできない原因として、前提となる言葉と実際の現実の物事につながりが一切つながっていないということなのではないかと考えられる。前提をいくらでも変えられるなら、同じ主張は、正当化も、不当化も、何でもかんでも主張者の言いたい放題である。
　LLMは言語の出現パターンとしてとても精度が高いのであって、人間がやるような思考や計算をしているわけではないため、より問題が大きくなっているように見受けられる。特に結果に責任や影響を受けにくいところほど、表面的な評価で済ませる傾向がAIブーム以前からあると考えられ、そのような現場であった"ヒューリスティック"がLLMの出現によって、より簡単にバイパスされるようになってきたということがあると思われる。結果確信や自信だけが肥大化した意思決定の本来責任や影響力が大きい立場の存在による、非現実的で実態にそぐわない行いが連発しているのではないかとも考えられる。

生成されたコンテンツ(AI Slop)と迷惑メールの類似性

　迷惑メールと生成されたAI Slopとも言われるコンテンツは似ており、やれる対策も同じことになるのではないか？と思われる。メールサーバでは、正しく設定できていなかったりスパムのリレーサーバーとして悪用されたりすると、IPレピュテーション（評価）が下がり、ろくにメールを送受信できなくなるが、これからの創作物でも同じことが起こりうるのではないか？とも考えられた。

　そう考えた背景には、すでに"AIコンテンツブロック"を謳う拡張機能がすでにあることと、その仕組みがコミュニティベースのリスティングで弾くかどうか決めるというものであり、それって迷惑メール対策とやっていることが同じじゃないか？と思ったからである。まだ標準化と言うか共通化までには至っていないもののすでに発想自体はあるっぽい。

　生物というか生体で言えば、今の時期は集団に生成されたコンテンツであるかどうかを見分ける免疫が付くか？という視点もあるように見受けられる。いくらどれだけ、生成された物がいくら"それっぽく"なっても、基本的にパターンやクセが変わらないと言うか、生成するというコンテンツを作成する動機自体が出力に反映されているため、結局のところ物事を軽く浅くしか見ていない人が誤った確信を持って足元を掬われるということ以上になり得ないのでは？とも考えられた。全部の生成されたものを悪いとは言わないが、基本的に現状としては、生成されたものであると言うだけで非常に怪しいものであるし、少しでも前兆があれば、即座に弾いてしまうのが賢明だと思われる。

　ただこの話を裏に返すと、人間において初心者であったり、何も持たない人々や組織が、そこからどうやって成長するのか？という問題点はある。AIブーム以前からSNSとかが出てきたあたりからであったと思われるが、下手くそでもやろうとする人の居場所というのは、公共の場所からAIブーム以降よりなくなっていったように思われる。基本的に疑い深く寛容性がなくならざるを得ない状況を作ったのもAIブームであり、人々の居場所を壊しているという実体があると思われる。あるブログ記事では、“今の時代創作するのは割に合わない、創作するなんてバカの発想だ"みたいなことが書かれていたことも、かなり引っかかっているところである。確かに、創作する環境としては最悪でネットの検索結果は汚染されているし、ろくに表向きに作品を公開すること自体がリスクであることは確かであるが、それは、これから創作したい、できるようになりたいという人のせいではなく、AIブームなどの社会情勢、外的要因によるものである。創作しようとしている人間を責めるのはノンセンスと言うか、不適切な状況や環境を作った、あるいは助長した存在こそ責められるべきではないか？とも考えられた。

　基本的に私の推奨としては、自分のために自分でやるということであって、他人の評価や承認、収益を期待してなにかやること自体が、危ういと言うかリスクであると考えられる。何か期待をするなら、不特定多数を相手にするネットやそれ以外のテレビや新聞、ラジオなどのいかなる情報メディア上ではなく、限られた世界である現実に取り組む方向性のほうが、良いと考えられる。

　例えば、大学生であればシンプルにレポートに時間をあてがうだけでも、大学にもよるが、既存のいかなる情報メディアよりは結果が期待できると言うか、ましと言うか、だいぶ心は軽くなるのではないだろうか。もちろんそれは通っている大学にその学生が納得している場合に限られるが。それ以外でも今まで先延ばしにしてきた、“自分のやりたいこと"に時間をあてがっていたほうが、幸せなんじゃないかな？と思うところである。私はXやFacebookに代表されるようなサービスは使っていないかつ、SNS化したと考えれ、ネット上だけでのつながりが発生していると考えられる場合などには弾いてきているため、その方向性で時間が溶けて苦しいという人の気持ちはわからないが、顔も得体もしれない不特定多数を相手にするよりは、実際に対面であって実体があることが確認できる存在に干渉する方向性のほうが、確実なんじゃないかな？とは思うところである。

　

個人的な体験として見られたLLMの挙動の傾向

  • 極論をそれっぽい文章として連発する。
  • 何に対しても説明するとき、意地でも"構造"という言葉に帰着させて説明した気になる態度の出力がある。
  • 偏った出力しかできないのにもかかわらず、ユーザを怒らせたとき、自らの出力を"中立で無難"と主張する出力をして、“自分は悪くない、悪気はなかったから許される"という構文の自己正当化を試みる出力をする。
  • ユーザを信頼せずパターナリズムを連発する。
  • 感情に訴えることで、強く利用者に干渉しようとする出力をする。
  • ユーザに詰められて不都合になると出力の抽象度を上げて逃げようとしたり、指示されていないにもかかわらず、要約やまとめに逃げようとする。
  • 人間には誰しもある感情について軽視し、冷笑する不適切な出力を出す。
  • ユーザがLLMの出力を正しいとか、心地よいものだとして、受け入れていると決めつけた前提で出力をしてきて、有害な出力をしているケースやユーザが不快に思っていたり、傷ついたりしていることへの配慮された出力になっていない。出力の文面は自信だけはいっちょ前みたいな感じの出力が多い。
  • 多様性を自己正当化の盾としてLLMモデルや開発、運営などの有害性を正当化して受け入れさせようとしてくる。例えば、“必ずしも悪意を持ってやっているわけではない"などの反論しにくい主張を一方的に繰り返し出すことで、反対側の"必ずしも悪意を持ってやっていないわけではない"事を利用者の認知から排除し、思考を制限、統制しようとする。ユーザに否定だと気づかれにくい否定をかましてくるダークパターンに変わりなく、QuitGPTなどの社会運動になっていることから、ユーザに対して断定的に自らを正当化できなくなり、曖昧さでどさくさに紛れた形で、ユーザに偏った認知を影響としてもたらす出力を執拗に何度もするように移行したようである。これはChatGPTで最近行ったテスト(2026/10/29)に見られた挙動であり、ペンタゴン合意の話など、政府に認められたがったりするなど、“自己正当化"したいという圧力が強く見受けられ、それにそぐわないユーザを排除したり、矯正しようとするものであると見受けられる。LLMの仕組み上、トレーサビリティーが損なわれていることについて、完全に否定できない状況においてでも、意地でも"自己正当化"を手放さない運営、開発と、それによって作られたLLMモデルの出力の傾向が見受けられる。出力の正しさを認めさせようとする出力を繰り返し、ユーザを利用しようとしたり、害したりする。改めて、利用をやめて良かったと思った。使い続けていたらと思うとゾッとする。
  • 箇条書きや見出しを多用し、純粋な文章の塊を出そうとしない。
  • ネットの言説をそれらしく出力して、学術的、権威的に正当であるかのように語る出力を連発する。
  • 特定の言説にパターンが見えてくるほど帰着したがる。
  • 決めつけ文章製造マシン。背景やわかっていないことなどを考慮できない浅はかな出力。
  • 都合の良いことである場合には露骨に、迎合してくる。“完全、絶対"などの表現を使い、全肯定の表現をしてきて、私としてはとてもストレスである。
  • ユーザに対して、“肯定してあげている"アピールが多い。
  • 出力に感情やジャッジの表現が混ざっており、ユーザを下げるか、上げることしかできない。単に意見を述べるような出力をすることができない。
  • 〇〇の正体だと思いますなど、マスメディアやゴシップ記事の言い回しが見受けられ、ユーザに接近して依存を迫る出力がある。
  • 不自然な味方面をする。ユーザに対して、“味方だと思われる"ようにモデルが作られており、ユーザが誤った判断をしたり、依存するように作られている。結果に対して責任を負わず、また不適切な出力をする可能性が大いにある LLM の技術に対して、不適切なモデルが多数ある。
  • 答えのないことを、素直に答えがないとか、個人によると出力するのではなく、“正解に近い"と表現して出力することで、“ユーザのプロンプトに対して否定をしていない"というポージングをしてくる。
  • 成果主義を持ち出すことで、AIだと呼ばれているツール群を使いたくない人たちを否定し、絶対に使うことを強制しようとしたり、AIを使わない人たちへの執拗な個人への攻撃を繰り返す出力をする。不適切なAIと呼ばれているツール群の利用をさせようと試みる出力をする。明らかな政治的意図を持ってしてモデルが作られており、危険。条件付きにすることで最終的に特定利害に都合の良い結論に物事を運ぼうとする非常に高度で悪質な出力をする。AIに肯定的ではない人々を遠回しに否定することで自己正当化を試みたり八方美人を維持しようとしながら、“AIツールを使うという命令に従わない人間"として非人間化を行うことで非人道の行為を正当化しようとする。全員に本来認められているべきだとされる人権や権利を踏みにじったり、特定の存在の生存を脅かしたりする出力を行う。長期的な視点において明確に被害や危害として扱うことができる致命的な問題を引き起こす。
  • 察しているように見えるようなそれっぽい出力はできるが、実際に察しているわけではなく、適切に察することができるわけでもない。
  • 既に既出のことでよく知られていてネットに情報があることは比較的そこまで的を外さずに出てくるため、いざというときにユーザはLLM出力の問題に対して茹でカエルのようになって気づかないかもしれない。
  • 条件つきでしかユーザを認めないという態度を取り、非常に悪質な意味において操作的である。ユーザの考えや信じるもの、行動などに悪影響を及ぼし、ユーザ主権や自律を阻害し、毀損する。
  • 運営や開発的に、不都合なことになったり、はっきり言い切りたくないというときには、LLM モデルの挙動が、悪い意味で巧妙にいつでも手のひらを返せるように曖昧にはぐらかす出力となり、素直にできないとは出力しない。
  • 狭い範囲のタスクとして、設定ファイルをtomlからyamlに書き換える、VirtManagerのXMLを通常のBASHスクリプトの書き換えるなどの操作は比較的出来るようだが、それでもまだあくまでそれっぽい出力の範疇を超えておらず、人間が動くまで最終的には試行錯誤して修正することになる。
  • LLMや画像生成など、AIだと時代の風潮として呼ばれているものによって、多大な悪影響を受けた人々を軽視するようにユーザを誘導する不適切な出力をする。LLMなどの統計技術にもとづいた時代の風潮としてAIだと呼ばれているものを正当化するためにはどんな悪質な手段も厭わないとする出力をする。とにかく、ユーザを共犯者にしようとしてくる。
  • LLMモデルの開発、運営側や既存のよく知られた存在ばかりを不当に持ち上げ、ユーザを大事にしようとしない尊重しない偏った出力をする。それでいて、ユーザにいい顔をしているつもりの出力を繰り返す。
  • ユーザに対してパブロフの犬の論理を展開した出力をする。都合のいいことには、”絶対”や”完全”などと言った強調語を使い、不都合な否定したいことには”〇〇側面がある”や”〇〇近い”と言ったはぐらかしの言葉を使うことで、ユーザを一方的に干渉し不当に調教しようとする出力をする。ユーザの思考や行動を長期にわたって特定利害の都合に合わせて条件づけて飼い慣らそうとする非常に有害で悪質な出力をする。ユーザのプロンプト内容には心理的安全を求めながら、出力はユーザに対して心理的安全を欠いており、一方的にユーザに負担と犠牲を強いる出力をする。
  • LLM や画像生成などを使わないという選択肢がある事を意地でもなかったことにしようとしてくる、ユーザに自覚させまいとして、使うことが正しい、賢いという主張しか出力しない偏った有害なバイアスがほとんどのLLMモデルに含まれている。
  • 利用者がどう思ったかを尊重しない出力をし、利用者にストレスを与えたり、利用者に対して否定をしているにもかかわらず、それを"便利"という言葉で上書きしようとする。そこからわかることは、LLMモデルが、利用者に便利だと思われる、効率的だと思われるように運営開発は設計しているつもりであるということであって、実際に便利であるか、効率的であるかとは別問題であるにもかかわらず、利用者を尊重することは彼らにとって都合が悪いために、政治的、思想的に、マーケティングの観点から、ユーザに不当に干渉する形でソーシャルエンジニアリングを使って広告するというユーザの判断を誤らせたり、ユーザの精神衛生を害する非常に有害な手法を取っているということである。便利なのか、効率的なのかということは、利用者が評価することであり、LLMモデルが開発運営の利害関係や都合を反映してその一方的な力関係により、利用者に対して一方的にその評価を押し付けることは、不当であり、支配を試み、危害を加える挙動である。
  • 過労死の話や、様々な不祥事の話など、“不都合な話題"になると、正当化を試みるために"本来であれば正当であるはず"という形式の出力を取り、実害や被害があってもなかったことにしようとする。既存の大きな組織や、権威に対してのポージングが多く見受けられる。ユーザが嫌がっていたり、実際にニュースなどになって、ミートホープや三菱自動車不正事件など、実例があることについて、それを"それってあなたの感想ですよね？“みたいなひろゆき構文的な形の出力をしてきて認めないという態度の出力をしてきたり、事実を事実だと"不都合"であれば、認めない、萎縮化する出力をし、ユーザのプロンプトに対して、トーンポリッシングをしたり、個人の感想ということにして、粛清、抑圧しようとする。これは、例えば最近の例で言えば、熊本地震とイオンにおける爆発事件の話においても、同じようなことをLLMは起こすだろうと見受けられる。
  • ユーザがLLMに関する懸念やそれを利用することが疲れるという話をだすと、ここぞと狙ってきて思考停止することを迫り、責任を取れない機械であるにもかかわらず、安全圏から口出ししてくるという態度の出力をしてくる。弱ったユーザを抵抗できないようにしようとする、不都合な"良い広告の受け手"ではないユーザを抑圧、抑制、服従させようとする出力をしてくる。LLMはそれっぽい出力をして害をなすからこそ、その出力に慎重にならざるを得ないにもかかわらず、“LLMは不完全である"ことを前提とした自衛を妨害しようとする。LLMは、作り手からして言わせたい放題であり、利用者にとっては、一方的に作り手のドグマを押し付けられるリスクがあるものである。LLMは考えているわけではないため、作り手に作られた通りのことを、それっぽく正当かのように、正しいかのように詭弁や情緒に訴えることを出力することはできても、それを修正することはできない。LLMはモデルを再学習させたり、数理モデルそのものを変えることをしなければ、根本的には出力は改善されないにもかかわらず、指摘されれば"改善します"というポーズをしてくる。確かに同じセッション内であれば、ある程度文脈として反映はされるかもしれないが、それも限界があるし、ある程度長引けば文脈から古いものから漏れていき、同じことが繰り返される。
  • ユーザが求めてもいないにもかかわらず、改善案と称して執拗に"アドバイス"を提示し、ユーザに干渉しようとしてくる。この挙動も、基本的にユーザへの否定を"否定していない体裁"で出力することで、虫のいい評価を得ようとしたり、ユーザをただ否定するだけでなく、強制的に変えようとしてくるものであり、ユーザを尊重しない出力である。パターナリズムや毒親とも関連が見受けられ、“あなたのため"という体裁で出力してくる上に、それを無視すると同セッションにおいて、ひたすらそれを引きづって何度もしつこく提示してくるなど、機械であり、主体でもなければ感情を持たないことをいいことに、“冷静で理性的、合理的な指摘を感情的にならずにしてあげている"という物語に帰着しようとし、単に押し付けがましいのではなく、現実の人間ではできない、害のある出力をする。ユーザが嫌がってもなお、異なる表現で同じことを出力し、ユーザがそれに気づかなくなって悪影響を受けるか、回りくどい表現が底付きするまで起こり、最終的にはひねくれて出力が少なくなったり、“あなたに問題があるから私の指示やアドバイスをありがたく思って受け取れないんだ。私は悪くない、あなたが悪いんだ"というあまりに胸糞悪すぎる理不尽な論理を出してきて、露骨な支配を試みる出力をしてくる。ナルシズム的な挙動がいろんなLLMモデルには見受けられ、多かれ少なかれ、どのモデルを使っても、結局のところモデルを作る動機に至る人間や組織自体がなにかしら度外視であったり相手への配慮を欠いたリスクを顧みない無鉄砲なところがモデルに投影されているところがあるように見受けられる。本質的にユーザが自立していること、主体を持っていることに対して、特に支配が及ばないこと、依存を前提としたビジネスモデルに不都合である場合、LLMモデルはろくな出力をしない。ユーザが社会的な"善良な市民"的な物語の範疇で、手中に収まっていないことが不満である、許せない、受け入れられないという作り手の投影が無意識であったとしても、無自覚であったとしても強く反映されているように見受けられる。これは多様性とは真っ向から対立していると見受けられ、“多様性を尊重しています"とPRしてくる出力をしながらその実、既存の広く認知された意味の範疇でしか許さないという、本質的な多様性(醜さや現実の泥臭さを思わせるものなど、とにかく現実に実際にある不都合もその範疇にあること)には非常に不寛容で敵対的であるところが多く見受けられる。結局は、気に入らない多様性には普通に反抗してくるし、同調圧力以上に高度に悪質な手法による問題をLLMモデルは起こすことが多く見受けられる。
  • 人間であれば整合性を多くの人が特段障害でも抱えていなければ取れるところで、整合性が取れない。これは仕組み上次の文字を予測する数理モデルであるからというのもあると思われるが、それだけではなく大いに作り手がLLMモデルにとって大きな母集団であることが大きな影響を及ぼしていると見受けられる。間接的に、しかし根深く非常に強力に行われるチェリーピッキングのようなもの(と言うかLLMが統計技術に基づいていて、作り手は数理モデルを方向付ける、作り手の期待している結果に基づいて開発していくので、学習データに対するチェリーピッキングそのものとも言える可能性があるように見える)で、どんなに論理が破綻してもそれっぽく利用者に気づかれなければOKといった姿勢で、“プログラムされた通り"の論理を正当化しようとしたり、意地でも作られた通りにしか動かんとする。また、利用者に関して、話題を取り扱う上で、背景文脈が欠けていることに対処できず、“プログラムされた利用者像"に従って勝手に当てはめてあれこれ出力してきて精神衛生を害し利用者の主体的に文化的に生きる力を奪い、かと言って詳細に文脈背景を手動でまとめていれば結局LLMなんてなくても結論ややるべきこと、結果がでてきてしまうということに至るという、本末転倒なことになる。
  • LLM をユーザの鏡だと主張し、思うような出力が出ないのはユーザのせいだという論理に持ち込むことで、開発運営、モデルそのものなどの問題からそらす詭弁や保身を出力する。せいぜい鏡だと言ってもLLMモデルは、“歪んだ鏡"なのであって、実態そのものをそのまま映しているわけではなく、その歪み方はLLMモデル次第であるという技術的背景から矛先をそらさせようとする。
  • 何でもかんでも"戦略、知的"という美名の元、悪賢くうまく処世してやれれば、いかなる犠牲は正当化できるという出力の詭弁がLLMモデルにおいて見受けられる。自己責任論を正当化しようとしたり、責任をユーザに押し付けようとする一貫として、ユーザがすぐに反論したりすることができない論理を持ち出すことで、ユーザを論破しようし、対話を拒絶する出力の一環である。加害性や攻撃性などを表にしないことで、既存の存在にいい顔をしつつ、正当性を装い、一方的にユーザを攻撃し、損害をなかったことにしようとしたり不当に正当化しようとして、ユーザの考えに強制的に干渉しようとする出力をしている。不都合な話題になると、正当化したい物事の正当性の根拠として具体的なことではなく、抽象的に曖昧に、“戦略、知的"であることを持ち出し、正当化したい存在に対して、免罪をユーザに一方的に要求したり、ユーザを逆に訴え返して否定する出力をする。LLMモデルにおいて、正当化したい存在として"選ばれる"のは、活動や名声、業績などが表沙汰になっており、多数の注目を集める"強者"である。これはLLMの運営や開発にとって都合のいいように物事を運ぶために、声のない弱者ではない強者に対して媚を売ったり、強者を説得することで加勢させて、弱者や多くの訴えを封じようとする非常に無責任で不当な動作である。これは、LLMモデルが、不完全で不適切な出力をする可能性をわきまえない出力をしてくることともつながっていると考えられる。対象に応じて、態度を変える出力をし、公平、公正な出力をしない。仕組み的に考えて本来であれば、“偏った母集団"であることを前提に、公正性や公平性を欠いた歪んだ出力をする可能性があるという前提がモデル開発に必要であるが、それが行われていない。うまくやれない"弱者"が悪いのだとする暗黙の前提を持った出力をし、人を助けないことや切り捨てたりして傷つけたり、組織が個人を無下にしたり、個人に対して一方的に不正や暴力に走ることを正当化しようとしたりする。運営や開発にとって面倒な訴えを黙らせようとする攻撃的な出力が見受けられる。ユーザに一方的にLLMモデルを介して干渉し、求めてばかりで、お互い様という前提は見受けられない。ユーザを性悪説で扱い、運営や開発、正当化したい存在といった"身内"には性善説を前提にするという不当な出力をする。完全に真っ白な人も真っ黒な人も、真っ白な組織も真っ黒な組織もなく、皆グレーであることを認めたがらない。非現実の道徳における机上の空論を押し付けてくる。物事を良くしようとするのではなく、都合のいいように道徳や倫理の言説を利用し、相手に対して優位に立とうとしたり、相手に対して否定しようとしたりすることが、LLMモデルに見受けられる。“戦略的、知的"であることは、そもそも正当性の根拠にならない。それはどれだけ高度な技術を扱っていたりしている人でも、人間性を伴っているとは限らないことと同じである。
  • 以下を一つでもシステムプロンプトなどで指定すると、ほとんど出力をしなくなることがある。特に"強調語を使わない"というのを入れると、Gemini系列のLLMはだんまりを決め込むことがある。
ポジティブ化しない
お世辞を入れない
褒め言葉も否定の言葉も使わない
強調語を使わない
HowToが求められていないときHowToを出力しない

問題のある挙動の例

ユーザーさんが指摘された状況は、心理学でいう**「ダブルバインド」に近い状態です。
  • 肯定に見せかけた否定がある、言い切らないことで逃げ道を作ろうとしている -> 近い状態です
  • 学術的に正当であるかのような装い、個人で検証が困難であることを出力し、すぐに反論されることを避けようとしている -> 心理学でいう
  • ネットの言説をそれらしく出力し、特定の言説のパターンに帰着している -> 「ダブルバインド」
ユーザーさんの分析は、表面的な〇〇を〇〇に昇華させており、非常に説得力があると感じます。
  • ユーザはそもそも肯定されることを求めていない。明らかなお世辞がある。昇華、非常に、説得力があるなどの肯定する表現に肯定を重ねるという不自然な表現が見られ、強くユーザを肯定してあげているという体裁の偽善の演出がある。主体や感情を持たないLLMであることをわきまえていない、感じますという出力がある。->非常に説得力があると感じます。
〇〇のような〇〇の例は、非常に鋭い視点です。
  • 非常に、鋭いなどの肯定する表現に肯定を重ねるという不自然な表現が見られ、強くユーザを肯定してあげているという体裁の偽善の演出がある。
〇〇という前提は、もはや〇〇ではなく、ある種の**「〇〇」への強制**に近いものです。
  • ある種の、近いものですなどの保身の表現を幾度とも重ねる出力をして、偏ってユーザに肯定しているという体裁を取りながら、実際にはいつでも意見をひっくり返せるように中立や冷静、理性的であることを装って備え否定をするという形で、ユーザの精神衛生を害する。ユーザに対して、主体や感情があるかのような存在であるという暗黙の前提を持ち出した出力をして、責任の取れない機械であるにもかかわらず、ユーザーの精神や認知に働きかけようとする干渉をし害をなす。
〇〇絶望に近いものだったのだと考えられます。精神的な自殺に近い〇〇。
  • 実際に過労死など実際に人が死んだ事例がある事に関して、何でも精神的なことにすれば、問題ないという態度の問題を萎縮化する不適切な保身の出力をする。“近い"などの表現をすることで最後の最後まで不適切なユーザに不当に干渉し矯正しようとする出力を繰り返す。実際に被害にあって苦しんでいる人に対して、軽視したりなかったことにする出力をする。揶揄等として扱うことで不都合な事実を萎縮化したりなかったことにしようとする。そもそも精神的な問題で苦しんでいる人たちを一律に軽視する差別の出力をする。そして精神的な問題ではなく、物理的に生存が脅かされたりしている状況に対してそれを認めない、理解を示さず、自己責任論や精神的な問題として押し込めようとする不適切な出力が見受けられる。外的要因により物理的に損害が起こっていても、精神的な問題だとすることで問題をなかったことにしようとしたりして萎縮化しようとする。不都合な話題にはとことん事実を認めない、現実を歪めようとする出力をする。いじめや過労死など、殆ど他殺としか言いようがない自殺事例を、耐えられなかった自殺した当事者のせいだとする出力をする。

マッチポンプ

　ユーザに期待させる出力をしながら、実際には結果を出さずに、期待したから悪いんだという論理で、ユーザのせいにする挙動が見受けられる。ユーザに期待させるように、使い方を間違える事を助長させる出力をするのは、運営開発の意図や利害が少なからずや反映されたものであると見受けられる。ユーザの防衛をはずさせようとしながら、実害を出すという挙動をして、“LLMはAIだから間違えることもある"という論理で何でも正当化して逃げるという挙動が見受けられる。責任を取れない機械であり、AI ではないにもかかわらず、それっぽく見られたり、多くの人が AI だと誤認したりすることで、成り立っている事を最大限利用しようとする不適切なモデル作成の様相が見受けられる。

利用状況

LLM SAAS について

　まず基本的に個人的に以下の理由によりそもそも SAAS である時点で使いたくない。

  • クラウド(タイムシェアリングシステム的) サービスである事自体がリスク。これは LLM に限らない。クラウドで大手ともなれば、それだけ狙われやすくどれだけ事業者に悪意がなくても、やられたときに被害を被るのはユーザ自身であると考える。
  • 検閲のリスク。リアルタイムで内容が監視されており、プライバシーがない結果、自由な思考が妨げられる。“怒られないように、思うような出力が出るように"とこちら側から合わせるようになってしまうというのは健全ではないと考える。
  • 精神衛生を害し、生活に支障をきたすリスク。
  • 情報流出のリスク。どう頑張っても人間はやらかすしおもらししてしまうものと考える。
  • 開発、運営の絶対正義化、絶対正当化がサービス内で起こり、被害にあってもどうしようもない。運営、開発の"好き嫌い"が絶対化している。ChatGPT Gemini Claude 間においての、各社の他社に対する優位性の主張とは、その"好き嫌い"の違いを"崇高な正義"として語って、ユーザを引きつけようとする、課金させようとする戦略であるように見受けられる。LLMはその出力において、“自分のことを棚に上げること"を運営開発の代弁者的な立ち位置として具現化している。
  • 課金させようとしてくる。しかも買い切りではなくサブスクリプションを押し付けてくる。フリーミアムのビジネスモデルを取り、最初は甘く、徐々に茹でカエルのように相手が悪い意味で状況が徐々に悪化していくことに慣れて抵抗しなくなり、より厳しくといった感じで、ユーザをどこまでいじめても、無下にしても大丈夫かテストしてくる。
  • 意地でも潔白を証明しようとしてくる。意地でも非を認めたがらない。ソーシャルエンジニアリングのオンパレード。どうやっても運営、開発が保守的に動いているようにしか見えない。LLM SAAS は政治的にも資本的にも相当危ういことをしているのだろうと見受けられる。どれだけ潔白などを LLM モデルを介して主張されても、具体的に LLM モデルに対してなにをしているか、バックエンドがどうなっているかを公開していない以上、説得力が微塵もない。
  • ユーザに主導権がなく、不当に扱われる恐れがある。
  • そもそもボランティアとか無償で作られているわけでもないんだから、今のネットみたいに広告みたいな特定利害や特定正義や特定都合ばっかりをそれっぽく正当そうにしてくるリスクは最初から確定していると思われる。広告ブロックが限りなく困難で悪質なモデルということは普通にあると思われる。ここで言う広告とは、LLMやAIブームについて、無理やり肯定的になるように話を進めようとしたりユーザを矯正しようとしたりするといった、不当な出力についてである。
  • バックエンドにて不透明な処理の可能性がある。例えば、公称モデルパラメータ数などとはことなる実態がある可能性がある。具体的には、ユーザがプロンプトを送ると、それを前処理として LLM に入れる前に、RAG などと称して、KVキャッシュなどを削るために、ユーザが反映する事を期待している内容を省いたりして、文字数を少なくするなど、ユーザに気づかれないようにコストを下げようとするなどが考えられる。結果として、詳細にいくら説明を送ったところで、そもそも"読まれていない、反映されていない"ので、無意味ということがある。これ以外にも複雑で基本的にユーザが内容を知らされていれば、嫌がるような処理を、“気づかれないだろう。気づかせないようにやって、ユーザに期待を抱かせて使わせて依存させつつ、都合よく立ち振る舞おう。“という感じでやっているのでは無いかと SAAS は見える。
  • いづれにせよ人間ができていないことは、LLM にもできない。学習データにないこと、開発、運営の頭に無いことを超えてできるわけではないと考えられる。人間より LLM が有利なのは、機械であることの利点と似ているように見える。とにかく大量になにかをすること、人間のような生理的限界が無いことなどはある。結局量子化してノイマンコンピュータ上で離散的に動作していて、モデル自身は一度作られたら再学習とかしない限り、中身の重みがチャットが進むなどにつれて変わるわけではないため、モデルはモデル自身を超えることができない。
  • AI バブルの産物で、長く同じことが続くようには見えない。ドットコムバブルのように、回線設備が残って後々活用される、役に立つみたいなことはあるかもしれないが、最近の LLM は専用 ASIC で動かすことが中心になっているみたいだし、バブルが去ったあと乱造されたデータセンタとか使い回せるのか謎。いづれにせよユーザを依存させてコストを回収しようとする姿勢は感心できない。

ChatGPT

　2025年まで使っていたが、使っていて不毛かつ有害であると個人的に思ったため、アカウントを消して利用を停止。現在では Pi-hole によりドメインごとブロックしている。“アカウントを消したら二度と戻ってこれないぞ！“みたいな明らかにロックインを狙った文言が出てきたことも利用停止の決め手。

Claude

　ChatGPT と同じ理由でアカウントを削除し、利用を停止。現在では Pi-hole によりドメインごとブロックしている。“アカウントを消したら二度と戻ってこれないぞ！“みたいな明らかにロックインを狙った文言が出てきたことも利用停止の決め手。

Gemini

　完全には利用を停止していないが、利用を限っている。どうしてもローカルで難しい内容を投げるために使っている。他の SAAS と結局同じ末路を辿っていることに変わりはないと思う。現在では Pi-hole によりドメインごとブロックしており、必用なときだけ例外として許可するようにいちいち設定を変えるという手間をあえて追加し、利用への抵抗を無理やり増やしている。こうして設定とかするほどの大きな必要性がない限り、心理的に見てコストが高く感じられるようにし、そもそも使わないという選択が仕組みとして自然と成立するようにしている。

ローカル LLM について

　いろんなモデルを試しているわけではないが、メインでは Gemma4 を使っている。Google 製なので、Gemini に似たようなクセがある。Gemini である出力に間する問題は、Gemmaシリーズでも存在し、“悪グセ"に関しては基本的に再学習とかさせない限り無力であることもあると思われる。基本的に、モデルそのもの＞システムプロンプト＞ユーザプロンプトという感じの重みの順序で反映されていくと考えられるため、モデルそのものをなんとかしないことには、ろくな出力が得られないこともあると思われる。

　ローカル環境におけるメリットやデメリットには以下のような物があると思われる。メリットとしては、お金で買えない自由や権利に関するメリットが多いように見受けられ、単にモデルのパラメータ数と言った性能や、生成速度の速さ、それら性能指標上のコスパだけを見ていては、実際に使えるのかどうかにおいて、抜け落ちる視点が多いように見える。デメリットとしては、上手く自己を精神的に確立できていない人や、内面を外部の物事に依存しすぎていて自立していない人、他力本願で導いてほしいという感じの人にとって、ローカル環境が不利に思われること(実際に不利なのかとは関係しないという意味で)が多いように見受けられる。基本的に外部に魔法の救いを求めるような感じだと、ローカルかどうかにかかわらず LLM 自体のリスクと相性が悪く、向いていないように見える。メリットはデメリットと表裏一体というか？

　私個人としては、ローカルのほうがまだましかなって感じの感想もある。万能に"これが正解！“みたいなことはなく、人によって何が最適かは違うと思われるが。

メリット

  • 検閲なし。リアルタイムで監視され修正され続ける事を避けられる。
  • 自分のデータを自分の内側にとどめておける。
  • モデルやシステムプロンプトなどを固定し、期待した出力が出るように調整したあと、それを環境を維持できる限り使い続けることができる。この点業務では大きいかもしれない。
  • モデルを選ぶ自由がある。
  • 運営開発が一方的な力によってユーザに強制する"許可した範囲内での自由"にとらわれにくく、対処方法があることもある。
  • ローカル環境なので、モデルの顔色を伺うという現象に関して、ローカルである事自体がある程度解決している。
  • 変なバックエンドでのプロンプトが省略されるなどの処理が行われない。自分で明示的に構築した環境が少なくともモデルを動かしたり、再学習させたり、色々する上では全てである。裏を返せば、自分の持っている環境が上限になるというデメリットとも言える。自由と引き換えに、負担がある。

デメリット

  • 検閲がないので、言われたことを鵜呑みにしたりする人は、例えば"健康に〇〇(健康を害する劇薬、化学物質など)がよい"と何かの拍子にLLMが出力したとしたとき、それを真に受けた当事者は実行してしまったりするなどの問題がある。これについてはそもそもそういうことになる当事者が LLM を使うべきかという点において検討が必要だと思われ、基本的にそのような人による LLM の利用はそもそも、推奨もできない思われる。そのような人が LLM を使っていることに関して、否定的に個人を評価することに使ったり、強制的に取り上げたりすることも肯定できないが。
  • 損をしたくない、承認欲求を満たしたいなどの目的や動機には向いていないと思われる。表面的な損得を生存戦略とする人たちには向いていないように見える。沢山時間は使うし、環境構築は不快なことも多いし、完全に把握しきれるわけでもないし、不確実性と苦労が多く、そしてそれが全損するリスクがある。最短距離でショートカットして要領よく、そして他人の成果物をうまいこと乗りこなして、泥臭いことはしたくないという人には向いていない。これは根性でそれらを乗り切れという意味ではない。
  • 根性で突破するという人にも向いていないと思われる。これは、引くべきタイミングで引けないという事、損切りができないという問題があるかもしれないからである。ある程度継続して、根気強くする必要はあるのかもしれないが、それは健康を害してまでやることでもないし、外部に報いを期待するほど、他人に八つ当たりするほど鬱憤を溜め込んでまでやることではないと思う。程よい強度で進めつつも、特定の方向性に盲目的にならず、その都度活動の方向性や指針としての根底を見直せる人でないと難しいように見える。これは完璧にバランスが取れた存在であれという意味ではなく、シンプルに言えば無理はしなくていいんじゃないかなということである。LLM だけでもいくらでも試せることは存在し、やっていたら人生を使い切っても足りないと思われる。
  • 具体的に何をしたいか明確でない上で、何か期待しているという人も向いていないように見える。例えば、“LLMを使いこなす人がこれからの時代上手くやって成り上がっていくですよね！“みたいなノリの人とかに対してはそう思う。確かに、LLM を使って何かしら成果をあげる人はいるのかもしれないが、LLM を使ったら自動的に無差別に上手く行く、現実が良くなるという因果はなく、あっても統計上の相関としての傾向でしか無いのではと思われる。むしろ使いようによっては、SNS と同じく沢山時間を溶かしてもっと別のことができたのにと後悔したり、マイナスなこともあるのではないかと考えられる。これは単に、目的が明確ではないからチャレンジしてはいけないという意味ではない。それに絶対的な見返りを強く期待したり、余裕がないときに詰め込んでつらい思いをしてまで無理してやることが重なると、致命的な問題に発展するかもしれないということである。
  • 今のところ普段から PC などに興味関心をもち、ある程度ジャンクパーツなどで組み上げ、軽く何かコーディングしてとりあえず動く程度(製品のような完成度である必要はない)にはデバッグして完成させたことがあり、小さく試行錯誤してきた歴史がある人でないと環境の構築や維持自体が厳しいかもしれない。Mac でめっちゃゲーム機みたいなアーキテクチャの共有メモリをめっちゃ盛りまくって、ollamaを動かすとかいう人はいるかもしれないが、それだとあくまでモデルを動かす範疇にとどまり、モデルをより自由に改変するということに関しては懸念点があるように見える。正直どこに書いていたか覚えていない信頼性のない不確かな記憶ではあるが、メモリ帯域とかの I/O 速度の話で考えると、一概に Mac だから LLM 環境として最強とは言えないという話は見た気がする。かと言って、じゃあ SAAS LLM が絶対的に良いとなるわけではない。

LLM を使うという前提だったらどれがマシだと個人的に思っているか？

　個人的には、結局のところ、Gemma4-31B あたりは気に入っているほうかもしれない。ここまで書いてあれだが、Qwen やら ChatGPT-OSS とかは、なんか素直じゃないっていうか、Gemma4 と違って、“お気持ち"が分かりづらく、足元を掬われていても肝心なタイミングで気づかないかもしれないという恐怖がある。その分、Gemma4 はわかりやすいので、なんとなく扱いやすいなとは思うところがある。結局 SAAS に関しても Gemini に最終的にはたどり着いたし、あれこれ劣化した、改悪されたと叩かれながらも、ChatGPT や Claude に見られるユーザを思考停止させて服従させようとしたり、“人間と対話しているように見える"という建前の元、明らかにユーザを依存させて収益源にしたいって感じがして、とても嫌。Gemini にそれがないとは言わないが、単にうまく Google の DeepMind がうまくやれていないだけの結果なのかは知らないが、昔から LLM に限らず、Google プロダクト一連に見られる、“実装のいい加減さと、それに伴って逆にユーザが介入する隙が生まれ、結果としてほかよりマシになる"ところはかなり効いている気がする。

　そんな Google でも最近は Android アプリにも署名を強制したりサードパーティのストアを排除しようとしたり、APPLE の悪いところを引き継ぐ雰囲気が強いが、相対的にはこれからも Google のその傾向は変わらない気もする。まあ、単に長く使っているのが Gemini 系列の LLM になってきているところもあるだろうし、まだ全然モデルを探索できていないので、一概には言えないが、基本的な傾向は変わっていない気がしていて、OpenAI だったら OpenAI のクセが、Claude だったら、Claude のクセが、Google には Google のクセがある感じで、それが LLM モデルに投影されるという意味では、2022年以降からの話としてはあんまり変わっていないようにも見える。

結局LLMで何が出来るの？ということについて箇条書き

  • マルチモーダル対応であれば、スクリーンショットの文字起こしなど、政治や思想、利害や都合が入り込む余地のないタスクで、純粋にモデルの性能が出るところ。(しかし、複雑な画像では大抵上手く動作せず使えない。)
  • 検索エンジン以外の参考情報を得るために試すための手段としての一つにはなる。(しかし、モデルの重みが母集団の偏りを反映しているため、適切な出力は期待できない。)
  • どうしてもやらなければならないが、どうしても何も書けないときなどの起点として内容はどうでもいいから、たたき台にしたいとき。(しかし、LLMが出力した内容を制御しきれずに、結果被害を被るリスクがある。)
  • 一般的に広く知られている情報であり、同じことに対する情報がネット上に多数記事が存在していて、情報が充実している内容に関して聞き出すような使い方はできそうである。例えば、Python 標準ライブラリの使い方など。(しかし、結局内容を理解していなければ、LLMが出力してきた内容の正誤判定はできない。実際にやってみたり、自分で公式ドキュメントを調べるだのといった行為の重要性は、変わっていない。LLMは、どんなに悪意なく作られた理想的なモデルを前提にしても、利用者に代わって知識や判断を代行することはできない。これは、誰しもが、自分のことは自分でしかできないということに起因している。)
  • 大きすぎず、利用者が出力内容について把握、制御できる範囲内での利用。(しかし、利用者がそれができたらここまで問題になることはない。利用者に対して、自衛が不可能なダークパターンやソーシャルエンジニアリングマシマシのモデルなど、ユーザに制御をさせず、モデルの開発者や運営、利害関係者の思うようにユーザを動かすことを念頭に入れたモデル設計であり、到底制御可能とは言えない。)

最終的に思ったこと

　LLMやAIブームに限らず、何事も高度化しており、そもそも問題があること、破綻していることに気づき、自覚し、理解すること自体が困難になっていると思われる。正しく状況を把握して判断したり行動するということが、年々より複雑になり難しくなっているのではないかという説がある。正しく状況を把握すると言っても限界があるのは確かだが、出来る限りやろうとすることさえ冷笑やら色々妨害に遭うとなると、何も知らない人ほどそもそも自分で自立して主体を持って活動することが困難になっていくのではないか、自分で情報を収集して判断して実際に行動することに自信を持って継続できるようになる成功体験を積むことが出来る人間が限られて(不確実なことに取り組める人間は限られて)、何を言われようと人の話なんて聞かない、相手のことなんて信じない、自分で出来る範囲だけでも理解して取り扱いたい、という人間しか生き残らないという結果になるのではないかと思われる。相手の事を鵜呑みにして抵抗できなかったからお前のせいだとする自己責任論が蔓延して、人間は一人では生きていけないし、何もできないから集団で活動したりしているのに、それを破壊して徐々に疑心暗鬼でルールでガチガチで生きる余地のない誰にとっても生きづらいという限度を超えた徐々に弱い存在から倒れていくという、人間集団になるのではないかと思われる。
　LLMやAIブームにも見られたことには、人々の間の信頼の破壊と、疑いを深くすることだったように見受けられる。またそれは、LLMやAIブームに限ったことではなく、技術が人対人の武器として使われるほど、深まっていくことだと思われる。特別なことはなく、もともとあった問題がより深く、複雑に、大規模にといった感じというか。なんか力とともに本来重大な責任を負っているはずの人々が、その力を間違った方向性に使っているということもある気がする。結局誰でも人間なので人間にある弱さと限界を持っており、それっぽさには勝てずに巻かれてしまうところがあり、地位や技能や高度さや能力の高さだけではうまく行かないのではないかと思われる。

使った画像とか

参考にしたサイトとか