生成AIが毒ガス扱いされる日


こんにちは
地下核シェルターと短波ラジオしか信頼しないタイプの陰謀論者、トジと申します

こちらの記事
https://gigazine.net/news/20230330-pause-ai-training/
「コントロールの喪失」の恐れがあるとしてGPT-4を超えるAIの即時開発停止を全技術者に対して6カ月間求める公開書簡、イーロン・マスクやスティーブ・ウォズニアックなど1300人以上が署名

この記事を読みまして、生成AIが「毒ガスと同じ扱い」になる日が近いなと直感しました。

アメリカ合衆国によって。

続きを読む 生成AIが毒ガス扱いされる日

AIO ( AI最適化 もしくは 人工知能最適化 )


AIO※ (=人工知能最適化) は、AIが人の疑問に答える時代には自然と発生して、発展していきます
※ AIO は “Artificial Intelligence Optimization”。 SEOのAI版という感じ 

これは人々の為になるものでしょうか、それとも人類の共有財産であるAIを汚す邪悪なものなのでしょうか

コーパス汚すなよ

今 AIO を素朴な頭で考えると、「wikipedia (英) をハックする!」という、安直で愚かで後ろ向きで人類の敵で誅殺すべきような行為に辿り着きがちですね

「WordNetコーパスをハックする!」とか「有名情報ソースリポジトリを汚染する!!」とか「自分のライブラリを皆に使ってほしいので、それを使ったコードを3,000万のプロジェクトでコミットする!!」でも良いのですが……

いや良くないです。それらは明確に邪悪です!!

このように、AIOを考えると、邪悪な方法から先に立ってしまいます。

自分に謎の邪悪バイアスがかかっているだけかも知れないのですが、AIO = コーパス汚染 というのが真っ先に浮かんでしまうのです

止められない

「AIOなんて邪悪だ、やるべきではない」

分かります。ボクも分かりますの立場です。ただ、いろいろな所で最近この話をしてるんですが、事業持っている人は大体AIOを重要だと捉えていました

AI研究者やエンジニアが束になって反対しても、お金の洪水の前には無力です
あらゆる方法でコーパスを汚染する戦いが始まるかも知れません

古き良きハッカーとして出来ることは?

せめて、出来ることはなんでしょうねーー

まぁ、ホワイトハットSEO ならぬ、 ホワイトハットAIOをなるべく迅速かつ激烈に推し進めるしか無いのかなと思います

合理的かつ倫理的な方法があれば、邪悪な方法を採る企業は減るでしょう。少なくとも大手に限れば

AI事業者はある意味恣意的な注入に対して、ホワイトハットなものであれば受け入れるしかないと思います。その扉を閉じるとあらゆる邪悪な方法が試されるでしょう

今の生成AIは、正直ChatGPTの出現によって過大に見積もられている気がします

とは言え、その長期的な価値は間違いないもので、とくに時代時代のコーパスは無二の価値があります

これを邪悪なAIO業者の手でスパムまみれにするのは、人類全体の不幸ですらあります(大げさ)

コレまでもあらゆるメディアが汚染されてきたので

他のメディアに及んでいた黒い手がAIコーパスにも同様に伸びるだけ。とも言えますね

いずれにせよ、
「ホワイトなAIOを常識にする」っつーのに、ちょっと本気で出来ること考えないといかんよと思っています!!!


Rubyがプログラマのための言語で気持ちよく書けるってのは今は当たり前過ぎて忘れてたけど、たしかにそうだったわ


なんでRuby書いてるの?と言われて

自分の考えをまとめる意味でもちょろっとまとめました

前提として

「プログラマを信頼する」のは全てのケースで正義ではありません

プログラマの紡ぐソフトウェアは多くの場合は会社のもので、資本家のものとも言えます
プログラマを信頼せず、統制下において管理するのが適切な場面の方が多いですし、ソフトウェアライフサイクルの進歩はその歴史にも見えます

Rubyはそんな中で 当時は 抜群にプログラマを信頼していた言語に見えました

最初に触った時の感じとしては

直感的な書き方ができる
冗長な手続きを抑えて一直線にモリモリ実装できる
劇薬とも言えるコア拡張・メタプログラミングを誘ってさえいる

プログラマとしては嬉しくて、 真面目なSIer系エンジニアからはオモチャと揶揄されていたとしても、オタク感満載でプログラミングを楽しめるものだったと思います

感覚的な部分は↑って感じです!

あと、Railsも好きです

RubyとRailsは別物であって、Rails = Ruby と見ることも、Ruby = Rails と見ることも失礼なのだけど、それでもやっぱり RailsがあるからRubyが好きというのも、まぁ成立するよねと思っています。両方好き。

でもやっぱ良くわからんな

ただ、今はこの直感的な書き方や一直線でモリモリ実装できる感じは、今では結構当たり前なこととして色んな言語に波及しているように見えます

便利なフレームワークも他言語で揃っていますしね

お仕事だとPythonも結構割合多いし、たまにPHP触ることもあるし、コード量だけで行ったらJavaScriptが一番多いかも知れないです

そうなると、なんでRuby好きなの?なんですが、うーんそうなるとやはり宗教なのかなー