AIが予想外の能力を開花させることを「創発(emergent)」と言います。
生物学の世界で「創発」とは、大量の物体が1つになって機能する自己組織化や集団行動を意味しますが、人工知能研究の世界では「突然これまで不可能だと思われていたタスクをこなせるようになること」を意味します。
昨今の大規模言語モデルを研究する専門家の間で、大規模言語モデルの創発が話題となっています。
Characterizing Emergent Phenomena in Large Language Models – Google AI Blog
https://ai.googleblog.com/2022/11/characterizing-emergent-phenomena-in.html
(以下略、続きはソースでご確認ください)
Gigazine 2023年03月25日 12時00分
https://gigazine.net/news/20230325-large-language-model-emergent/
ないから
素人しかいないのな
マジかよ
人類オワタ
と思う
決め打ちで答えが存在したからだろ
先生「1足す1は?」
小学一年生「「にー!」」
をやってるようなものか
突然「自我」が現れたりして。ちょっと怖い。
「3957x7315」も記憶してるんか?
九九を記憶してるんだろ
つまり人はもう話したり書いたりしなくて済む場面が増えてきます
次の段階ではうちらなしで生活が成り立たなくなります
やってみたの?
AIはインフルエンサー成田さんか!w
世間に出回っでいる短い回文を回答してくるだけで
新しい回文を作り出すに至らない。
さらに、長い回文をつくってと依頼すると謎の言葉遊びのような文章を返すだけだな
胡散臭いと思うは、AIが何かを調べもしないまま、AIを擬人化した論調に乗ってるから。
いまのAIは1956年に提唱されたパーセプトロンモデルでの学習機能から一歩もはみ出してない。
2000年前後で複雑な統計を扱えるだけの計算資産を得ていまはその応用の幅を探ってるところ。
なのでAIを主語にして擬人化するほうが何も理解してないというだけの話。
AIが〇〇するって話でなく、1956年に提唱された計算方式の俎上で何を学習させ、何を出力させるかということだよ。
計算量とAIの性能をグラフ化したら
当然ながら計算量増やせば性能も上がっていくグラフになるわけだけど
ある計算量から突然性能が急上昇するってだけの話
という「なぞなぞ」が苦手
「長い回文」のような文字の並びなどの構造を必要とするものも苦手
「新しい早口言葉」など人が発声しにくい言葉などと言葉の意味以外に必要な要件があるものなども苦手
これは 論理的な誤り訂正機能が ない ということ 報酬制度の機械学習ででも やらないと 一般民生利用フィードバックも無いし
公正正確さの実用な検索エンジンの代替には論理的に無理でしょうLLMじゃ
っていうのがこれまでの論文で プロンプトで新たな知性の発見って言いたくなる喰わせデオタサイズとパラミタ パラメータじゃないの パラミタ戦億個のコストオーバーフローからの苛立ちでしょ
GPT内部の論理構成メカニズムとメモリマッピングだけでその生成知性のアルゴリズムを再現できるようにでもならない限り
いわゆるビットコインのマイニングよりもアナーキーなパラミタ数兆個のデータ蟻地獄なだけ マイクロソフトの潤沢なキャッシュフローがどんどん失われゆくだけじゃないの
なんか最新のそれもSAのLLMまで範疇にいれて 4万字 8万字を意味ある自動生成させることにご執心なのわいいけど、
1冊めも2冊めも ソースコードはnote有料3000円で、肝心の青果物本はnoteでそのまま晒して出来栄えというつもりかもだけど、
ま~ 見出しだけだと へえええ いいかもなんだけど、 本文見ると え あれれ いやこれ作るソースコード有料は300円でも買わないだろうと
いう 本を上梓したことあるんだっけ?というか 本なんて4万字 8万字 って グーテンベルグの銀河系は原書で読んだとか ほんとか?
あの つまらない難解なって原書は見たことないけど、 なんか 売れてる教養ビジネス書とか
あ 西森先生の 量子コンピュータが人工知能を加速する 体の本ぐらいの興奮がないと GPTが加速する生成系知能は羊の夢をみるだろうか とか
GPTゴーストライターのひでえ書きっぷり とても下書きといえるレベルではなく、やぱり虫食い穴埋め問題の埋まった回答の小段落短冊集で
字数だけつじつま合わせを最速最優先 って、既存のパクリ元の本を言語を超えて数千冊PTさせてとか でもそんな著作権違反の挑戦して意味があるか?
一方の 月額36400円の教養としてのAI講座も高杉ってやつは見るなってことで
引用元: ・【AI】GPT-4やPaLMなどの大規模言語モデルは規模が大きくなると突然予想外の能力を開花させることがある [すらいむ★]