この記事を作った動機

　最近、LLM に関して複数の記事において、なんとなく読み手を混乱させる状態になっている気がするので、今何使っているか公開(後悔)するだけ。書き殴っており、不完全だったり、矛盾していたり、誤解しているところもあると思われるが、とにかく最近いろんな人が持論を公開しているのを見て、かつ相手のやっていることに満足できないなら、自分でやってみようとして気に入るものを作ってみるということに基づき、結局やってみることにしただけである。

LLM に対する自分の感想

あくまで統計学の延長線上である

　あくまで、統計学を極めた結果の一つであって、本当に期待されている意味での AI というのは違うんじゃないかなと思うところである。そもそも AI という言葉には明確な定義が無いという話は G 検定の本で見た気がするし、あくまで今の時代の風潮として、AI だと呼ばれている物事の一つに、LLM や 生成AI と呼ばれている物があるのだろうと考える。

誤差が出力するにつれて蓄積されている説

　別にちゃんと調べたわけでも無いし、PyTorch やらで特徴ベクトルやらゴリゴリ数値と戦っていたわけでもないので、よく分かってないが、次の文字を予測するという性質上、出力すればするほど、誤差が積み重なっているのではないか？という疑問がある。

期待されているような"AI"ではないようにみえる

　LLM はあくまで名前の通り、言語を中心として数値化されたデータの上でしか動作しない。また自律的な主体なわけでもなく、あくまでユーザの入力があって初めて動作し、学習データや運営、開発に特徴づけられたバイアス、重みによって、それっぽい出力に変形しているだけであると現時点の私の理解では思う。身体性がないという言葉でこれは説明されるように思われるが、単に身体性がないだけではなく、技術的、データ的、資本的に優位な存在が、自らの定義する正しさや道理を一方的にモデルに反映し、出力させることができてしまうというところ(モデル自身は主体も持たないため、作り手に逆らえないところ)が、期待されているような AI とは異なると思われる。あくまで作り手に服従するという、LLM 自体が自立していないものであることが、AI と呼ぶには気がかりである。
　他にあからさまだと思うこととしては、そもそもしばらく使ってみたらだれでも気づくと思われるが、明らかに出力に固定的なパターンがあることである。例えば、いくつかの見出しを大きく出して、中身を細かく書くというようなフォーマットが出力全体に見られたり、最初と最後にビジネスメールとかでありそうな、“ユーザに共感する"という名目のもと行われているお世辞が入っているなど、なんか故意にそうなるように出力を方向づけて開発しないと起こらないようなパターンが多く見受けられる。

言語を扱っているため、人間側がそれに負けて色々やらかす可能性

　今までの情報関連の技術と異なり、疑似乱数のように非決定的に見える膨大なパターンを出力でき、かつ場合によっては使い手に対して、あたかも人間と喋っているように感じさせ、感情的な相互作用を引き出すことによって、ユーザは当初意図しなかったことをプロンプトに打ち込むようになるという、不本意に LLM に対して"心を許してしまう、心を開いてしまう"ことが起こり、情報流出やいろんなリスクを起こすと思われる。
　LLM SAAS からすればユーザは商品であり、依存させて、自らのビジネスの正当化の政治的な泉にしたいだろうし、ユーザに本当のことは知られたくない、誤解されているままであって欲しい、都合のいいように自社の製品を解釈し、お金を落とし続けて欲しいと考えているのではないかと仮定すると、不本意に LLM に対して"心を許してしまう、心を開いてしまう"事を避けがたく、リアルタイムで修正が入り、クラウドである以上そのリスクがどんなに利用規約に"ユーザを守る"と書いていても、信頼できない相手であることに変わりはない。LLM SAAS がユーザから欲しいのは、お金だけでなく、ありとあらゆるユーザ権利やユーザの自由、ユーザの思考回路など、深くプライベートや各個人の主権に関わる内容であると思われる。だから、SAAS はタダでも使いたくない。
　自分としては、LLM に関わるさまざまな問題は、使い手としてのユーザのできる自助努力や自衛の範疇を超えていると思われる。どうやっても使っている以上リスクは存在し、自覚なくやられてましたなんてことがあると思われる。このような背景からも、問題が起こらないように頑張って使おうとするのではなく、自動的に安全側に倒れるよう、そもそも使わない、利用しない、使うにしても個人の範囲内で完結する安全性が高い手段を使うなどが考えられる。SAAS が掲げる安全性とは、グリーンウォッシングのような側面があると考えられ、あくまで"自分たち"に都合が悪くない範疇においてのパターナリズム的な話であり、本質的な安全ではないと思われる。SAAS はユーザに対して責任を取らない。なのに、ユーザに対して"あとから責任を取るから、大丈夫だから"と心を許すように、色々差し出すように仕向けてくる、悪びれもせずソーシャルエンジニアリングやダークパターンを続ける姿勢には、改善の余地は無いと思う。

LLM の技術自体を否定しているわけではない

　私としては LLM の技術的課題の側面からの問題の指摘として、消費電力などによって環境汚染が進むが進むから悪だみたいな意見に対しては、それは時間の問題なのではないかと思うところである。どうせ性能が上がって、性能あたりの電力の消費量は下がっていくだろうし、どうせ徐々に買い替えていくことにはなると思うところがある。確かに微細化に限界があるなどの話はあるが、それは将来的に性能が向上しないということを意味しないとも見受けられる。
　LLM 自体は、個人でモデル作成から運用、利用まで気軽に、絵を描くように、動画を作るように、テキストエディタで文章を打ち込むように使える、完結できるところまでくれば、それは悪くはないのではと思われる。今 LLM にまつわる問題の多くは、それが世界的な興味、関心、競争のバブルとしての中心、渦中であり、その技術の使われ方に問題があるということであって、それは LLM 自体の有用性を否定するものではないと考える。LLM には、純粋に技術的制約による問題と、社会的、政治的、資本的な問題という大まかに分けて２つの側面を現状としては持っているように見える。現状は単に"包丁のようにLLMも使いようだ"として、使い手の自己責任に帰着する論理は詭弁であると見受けられる。ユーザは、LLMに対して無防備、無理解、無知であったり SAAS によって弱者の立場を強いられており、自分で完結する術を持っていない。
　LLM の純粋な技術的制約として、高品質な学習データという課題があり、かつ莫大なデータを必要としていて、個人でできる範疇に収めることがまだ難しいという問題点があり、個人の中で完結する LLM 技術というのは、まだ遠いように見える。これはエキスパートシステムで言われていた問題と似ているところがあるように見受けられ、結局データ洗浄やら、モデル出力の監視、調整やら、再学習やら莫大な労力を要して、現実的ではないという結論に至ってしまうというのがある。転移学習もあるが、現状はそれも多くのユーザにとってまだ簡単ではなく、ある程度PCを使ったことがあり、コマンドラインに心理的抵抗がない人向けって感じで、かつそのうえで多大な時間、金、精神的な耐久を削る感じで、あまりそれが良いとは思えない。

“AIには感情はない"という出力について

　よく、LLM自体に関して、LLMに思ったことなどを脳内ダンプみたいな感じでローカル環境にてぶつけまくっているが、毎回"AIには感情はない"という詭弁を出力してくるところが殺意が湧くほど嫌いである。確かに技術自体は感情も悪意も何もない。だからこそ、問題視しているところがあるというのに、そういう防衛機制出力をされても何も嬉しくない。LLM があくまで、開発や運営、学習データを中心とした、統計学でいう偏った母集団に基づいている以上、偏った不完全な出力しか出てこないし、LLM が感情を含め主体を持たないからこそ、作り手にとって言わせたい放題なのにもかかわらず、“AIには感情はない"という詭弁を出してきて、“だから、開発運営は悪くない"という論理に持っていこうとするあからさまな保身の動作は嫌いである。素直に不完全性を認め、そのうえで相互作用するモデルがほしいと思うことがあるが、現状の在り方からしてあまり期待できないとも思う。完全な潔白を主張するようにモデルを作ったら、逆にモデル関係者が後ろめたいことを隠していますと白状しているようなものじゃないのかと思う。

LLM を使うかどうかの自由

　自分としては、LLM を使いたい人は使えばいいし、LLM を使いたくない人もいてもいいというスタンスである。LLM を使ってない人が LLM を使わないことを他人に強要したり煽り立てたり、逆に LLM を使っている人が、他人に対して、LLM 使うように強制したり、煽り立てたりすることは、私の視点からすれば NG だと思われる。時代の風潮だからとか、みんなそうしているからという同調圧力とかは、免罪符にならないし、具体的に何が問題なのか説明を避けているか、詭弁のための終着点という感じで、根拠を集団がどの方向を向いているかに委ねており、根拠になっていない。
　基本的には、LLM を使っているかどうかにかかわらず、人と接するということであってほしいと思う。LLM を使うか使わないかを当事者が自由に決めることは、重要な権利の一つであると思う。LLM を使う人、LLM を使わない人には、それぞれにあった配慮が必要だと思われる。LLM を使っている、または使っていない人を対象に、偏って有利、または不利になるように意図して環境を作ったりすることは肯定できない。不意な形で、LLM を使っている人、LLM を使わない人の間に、大きく有利、不利の差が出る場合は、LLM に関して調整をするのではなく、そもそもやっている事自体を見直したり、中止する、破棄するなどの対応も必要だと思われる。
　LLM に関して、特別な事をしなくても、使っても使わなくても大丈夫だという安心感と選択の自由を当事者に与える心理的安全性は重要だと思われる。

利用状況

LLM SAAS について

　まず基本的に個人的に以下の理由によりそもそも SAAS である時点で使いたくない。

  • クラウド(タイムシェアリングシステム的) サービスである事自体がリスク。これは LLM に限らない。クラウドで大手ともなれば、それだけ狙われやすくどれだけ事業者に悪意がなくても、やられたときに被害を被るのはユーザ自身であると考える。
  • 検閲のリスク。リアルタイムで内容が監視されており、プライバシーがない結果、自由な思考が妨げられる。“怒られないように、思うような出力が出るように"とこちら側から合わせるようになってしまうというのは健全ではないと考える。
  • 精神衛生を害し、生活に支障をきたすリスク。
  • 情報流出のリスク。どう頑張っても人間はやらかすしおもらししてしまうものと考える。
  • 開発、運営の絶対正義化、絶対正当化がサービス内で起こり、被害にあってもどうしようもない。
  • 課金させようとしてくる。しかも買い切りではなくサブスクリプションを押し付けてくる。フリーミアムのビジネスモデルを取り、最初は甘く、徐々に茹でカエルのように相手が悪い意味で状況が徐々に悪化していくことに慣れて抵抗しなくなり、より厳しくといった感じで、ユーザをどこまでいじめても、無下にしても大丈夫かテストしてくる。
  • 意地でも潔白を証明しようとしてくる。意地でも非を認めたがらない。ソーシャルエンジニアリングのオンパレード。どうやっても運営、開発が保守的に動いているようにしか見えない。LLM SAAS は政治的にも資本的にも相当危ういことをしているのだろうと見受けられる。どれだけ潔白などを LLM モデルを介して主張されても、具体的に LLM モデルに対してなにをしているか、バックエンドがどうなっているかを公開していない以上、説得力が微塵もない。
  • ユーザに主導権がなく、不当に扱われる恐れがある。
  • バックエンドにて不透明な処理の可能性がある。例えば、公称モデルパラメータ数などとはことなる実態がある可能性がある。具体的には、ユーザがプロンプトを送ると、それを前処理として LLM に入れる前に、RAG などと称して、KVキャッシュなどを削るために、ユーザが反映する事を期待している内容を省いたりして、文字数を少なくするなど、ユーザに気づかれないようにコストを下げようとするなどが考えられる。結果として、詳細にいくら説明を送ったところで、そもそも"読まれていない、反映されていない"ので、無意味ということがある。これ以外にも複雑で基本的にユーザが内容を知らされていれば、嫌がるような処理を、“気づかれないだろう。気づかせないようにやって、ユーザに期待を抱かせて使わせて依存させつつ、都合よく立ち振る舞おう。“という感じでやっているのでは無いかと SAAS は見える。
  • いづれにせよ人間ができていないことは、LLM にもできない。学習データにないこと、開発、運営の頭に無いことを超えてできるわけではないと考えられる。人間より LLM が有利なのは、機械であることの利点と似ているように見える。とにかく大量になにかをすること、人間のような生理的限界が無いことなどはある。結局量子化してノイマンコンピュータ上で離散的に動作していて、モデル自身は一度作られたら再学習とかしない限り、中身の重みがチャットが進むなどにつれて変わるわけではないため、モデルはモデル自身を超えることができない。
  • AI バブルの産物で、長く同じことが続くようには見えない。ドットコムバブルのように、回線設備が残って後々活用される、役に立つみたいなことはあるかもしれないが、最近の LLM は専用 ASIC で動かすことが中心になっているみたいだし、バブルが去ったあと乱造されたデータセンタとか使い回せるのか謎。いづれにせよユーザを依存させてコストを回収しようとする姿勢は感心できない。

ChatGPT

　2025年まで使っていたが、使っていて不毛かつ有害であると個人的に思ったため、アカウントを消して利用を停止。現在では Pi-hole によりドメインごとブロックしている。“アカウントを消したら二度と戻ってこれないぞ！“みたいな明らかにロックインを狙った文言が出てきたことも利用停止の決め手。

Claude

　ChatGPT と同じ理由でアカウントを削除し、利用を停止。現在では Pi-hole によりドメインごとブロックしている。“アカウントを消したら二度と戻ってこれないぞ！“みたいな明らかにロックインを狙った文言が出てきたことも利用停止の決め手。

Gemini

　完全には利用を停止していないが、利用を限っている。どうしてもローカルで難しい内容を投げるために使っている。他の SAAS と結局同じ末路を辿っていることに変わりはないと思う。現在では Pi-hole によりドメインごとブロックしており、必用なときだけ例外として許可するようにいちいち設定を変えるという手間をあえて追加し、利用への抵抗を無理やり増やしている。こうして設定とかするほどの大きな必要性がない限り、心理的に見てコストが高く感じられるようにし、そもそも使わないという選択が仕組みとして自然と成立するようにしている。

ローカル LLM について

　いろんなモデルを試しているわけではないが、メインでは Gemma4 を使っている。Google 製なので、Gemini に似たようなクセがある。Gemini である出力に間する問題は、Gemmaシリーズでも存在し、“悪グセ"に関しては基本的に再学習とかさせない限り無力であることもあると思われる。基本的に、モデルそのもの＞システムプロンプト＞ユーザプロンプトという感じの重みの順序で反映されていくと考えられるため、モデルそのものをなんとかしないことには、ろくな出力が得られないこともあると思われる。

　ローカル環境におけるメリットやデメリットには以下のような物があると思われる。メリットとしては、お金で買えない自由や権利に関するメリットが多いように見受けられ、単にモデルのパラメータ数と言った性能や、生成速度の速さ、それら性能指標上のコスパだけを見ていては、実際に使えるのかどうかにおいて、抜け落ちる視点が多いように見える。デメリットとしては、上手く自己を精神的に確立できていない人や、内面を外部の物事に依存しすぎていて自立していない人、他力本願で導いてほしいという感じの人にとって、ローカル環境が不利に思われること(実際に不利なのかとは関係しないという意味で)が多いように見受けられる。基本的に外部に魔法の救いを求めるような感じだと、ローカルかどうかにかかわらず LLM 自体のリスクと相性が悪く、向いていないように見える。メリットはデメリットと表裏一体というか？

　私個人としては、ローカルのほうがまだましかなって感じの感想もある。万能に"これが正解！“みたいなことはなく、人によって何が最適かは違うと思われるが。

メリット

  • 検閲なし。リアルタイムで監視され修正され続ける事を避けられる。
  • 自分のデータを自分の内側にとどめておける。
  • モデルやシステムプロンプトなどを固定し、期待した出力が出るように調整したあと、それを環境を維持できる限り使い続けることができる。この点業務では大きいかもしれない。
  • モデルを選ぶ自由がある。
  • 運営開発が一方的な力によってユーザに強制する"許可した範囲内での自由"にとらわれにくく、対処方法があることもある。
  • ローカル環境なので、モデルの顔色を伺うという現象に関して、ローカルである事自体がある程度解決している。
  • 変なバックエンドでのプロンプトが省略されるなどの処理が行われない。自分で明示的に構築した環境が少なくともモデルを動かしたり、再学習させたり、色々する上では全てである。裏を返せば、自分の持っている環境が上限になるというデメリットとも言える。自由と引き換えに、負担がある。

デメリット

  • 検閲がないので、言われたことを鵜呑みにしたりする人は、例えば"健康に〇〇(健康を害する劇薬、化学物質など)がよい"と何かの拍子にLLMが出力したとしたとき、それを真に受けた当事者は実行してしまったりするなどの問題がある。これについてはそもそもそういうことになる当事者が LLM を使うべきかという点において検討が必要だと思われ、基本的にそのような人による LLM の利用はそもそも、推奨もできない思われる。そのような人が LLM を使っていることに関して、否定的に個人を評価することに使ったり、強制的に取り上げたりすることも肯定できないが。
  • 損をしたくない、承認欲求を満たしたいなどの目的や動機には向いていないと思われる。表面的な損得を生存戦略とする人たちには向いていないように見える。沢山時間は使うし、環境構築は不快なことも多いし、完全に把握しきれるわけでもないし、不確実性と苦労が多く、そしてそれが全損するリスクがある。最短距離でショートカットして要領よく、そして他人の成果物をうまいこと乗りこなして、泥臭いことはしたくないという人には向いていない。これは根性でそれらを乗り切れという意味ではない。
  • 根性で突破するという人にも向いていないと思われる。これは、引くべきタイミングで引けないという事、損切りができないという問題があるかもしれないからである。ある程度継続して、根気強くする必要はあるのかもしれないが、それは健康を害してまでやることでもないし、外部に報いを期待するほど、他人に八つ当たりするほど鬱憤を溜め込んでまでやることではないと思う。程よい強度で進めつつも、特定の方向性に盲目的にならず、その都度活動の方向性や指針としての根底を見直せる人でないと難しいように見える。これは完璧にバランスが取れた存在であれという意味ではなく、シンプルに言えば無理はしなくていいんじゃないかなということである。LLM だけでもいくらでも試せることは存在し、やっていたら人生を使い切っても足りないと思われる。
  • 具体的に何をしたいか明確でない上で、何か期待しているという人も向いていないように見える。例えば、“LLMを使いこなす人がこれからの時代上手くやって成り上がっていくですよね！“みたいなノリの人とかに対してはそう思う。確かに、LLM を使って何かしら成果をあげる人はいるのかもしれないが、LLM を使ったら自動的に無差別に上手く行く、現実が良くなるという因果はなく、あっても統計上の相関としての傾向でしか無いのではと思われる。むしろ使いようによっては、SNS と同じく沢山時間を溶かしてもっと別のことができたのにと後悔したり、マイナスなこともあるのではないかと考えられる。これは単に、目的が明確ではないからチャレンジしてはいけないという意味ではない。それに絶対的な見返りを強く期待したり、余裕がないときに詰め込んでつらい思いをしてまで無理してやることが重なると、致命的な問題に発展するかもしれないということである。
  • 今のところ普段から PC などに興味関心をもち、ある程度ジャンクパーツなどで組み上げ、軽く何かコーディングしてとりあえず動く程度(製品のような完成度である必要はない)にはデバッグして完成させたことがあり、小さく試行錯誤してきた歴史がある人でないと環境の構築や維持自体が厳しいかもしれない。Mac でめっちゃゲーム機みたいなアーキテクチャの共有メモリをめっちゃ盛りまくって、ollamaを動かすとかいう人はいるかもしれないが、それだとあくまでモデルを動かす範疇にとどまり、モデルをより自由に改変するということに関しては懸念点があるように見える。正直どこに書いていたか覚えていない信頼性のない不確かな記憶ではあるが、メモリ帯域とかの I/O 速度の話で考えると、一概に Mac だから LLM 環境として最強とは言えないという話は見た気がする。かと言って、じゃあ SAAS LLM が絶対的に良いとなるわけではない。

使った画像とか

参考にしたサイトとか

　特になし。個人的な内容のため。