ニコニコ大百科

>>299-300
興味深い話だな
冷や水をぶっかけられたような気分になる話でもあるが

こんなのありえねぇよ

って思ってたんだがecho買ったらAlexaが賢すぎて怖くなった…
「人類の未来は？」って聞いたら「ちょっとよくわからなかったです。ごめんなさい。」って返してきたのは草生えたけど

Googleが量子コンピュータの開発が大きく前進したことで収穫加速の法則が働いている実感が湧いてきている

この流れが続いていけば10年後くらいにはガチで世界が大きく変化していくのではないかって感じがする。しかも、最近はディープラーニングでも発展速度が凄まじいことになってるしもはや破竹の勢いという他ないのでは

実感はいくらでも湧くかもしれないが、
実際に「収穫加速の法則」の証拠となるプログラミングコードとか、数式とか、システム処理結果とかは存在するんかね

「収穫加速の法則」や「シンギュラリティ」という言葉は、オカルトや神道や宗教も使うくらいに語義がガバガバだし
こういう言葉は、プログラミングや数式を書いたり、システムを構築・管理したりする現場で使われることがほぼ無い

「収穫加速の法則」といった言葉が指す範囲は、人によって伸び縮みするので
もし全世界の人々の生活すみずみまで量子コンピュータ的な先進科学が行き届いたとしても、それと「収穫加速の法則」とに関連性があるかは怪しい

まあ、収穫加速の法則は、現時点では、ある種の信仰、あるいは世界観だよね。現実の方がいずれついてくるかもしれないけど

個人的には、収穫加速の法則に付随するような、人間を越えた知性が人間を壊滅させずに保護するという「明るい」イメージの流布には反対だけど。まあ現代版のラッダイト運動に対抗するには政治的に正しく主張するしかないんだろうけどね

どんなパターンの人工知能の暴走も安定も何も起こらないのもお話だからまだ笑い話で済むが
現実ではそんなお話のようにストーリーの方向転換や本の読了はできない

想像を絶する何かが起こったとしてフィクションならともかく
現実で一度起こってしまえばだれが責任を取れるのか
既存の理屈が吹き飛ぶ何かに対して何を誰が責任を取れるのか
それに対して回答できる者など居ない
だから2つの道を行くしかない
架空でしかない夢を語るか架空でしかない危惧を語るか

IT業界の選考で足切りされるか
という3つ目の道もあるぞ。「語る」「責任を取る」だけなら素人もできる。
技術者や専門家として採用されるには、「成果物を作って見せる」能力が必要

https://enginner-tanaka.com/interview33
>米村歩@日本一残業の少ないIT企業社長
>プログラマーやエンジニアの人手不足は優秀なエンジニアが不足しているのであって、スキルのないエンジニアは行き先がない
>やる気を口にするだけではダメで、作品作るなどは必要

>勝又健太@テック系YouTuber
>ほんとその通り
>Web系企業に就職する場合には「ポートフォリオをちゃんと作ること」が一番の近道

>Tau@駆け出して這い上がるエンジニア
>未経験エンジニアの面接で、ポートフォリオを準備してくる人が3割しかいないっていう話を聞いた時は衝撃だった。

>松田信介@JavaScriptスクール運営中
>言い訳せずにポートフォリオ作れ
>細かいことはあとで学べばいい、というか作りながらでも学べる


>ポートフォリオとは？
>IT業界では、自分のこれまでの実績をアピールするための成果集のことを指します。

カーツワイルの予想によれば今年で人間の頭脳のシミュレーションが可能になるはずだが、勿論進めてはいるけど関連研究に画期的ななにかが出て来た訳では無いな。まだ五月だから判断はできないけど
個人的には技術的特異点の予想が全部適中して欲しいがまだ分からないことだらけなんだよな

カーツワイルが使う単純な指数関数的成長は続かなかったな。残念ながら急成長の時代は終わりだ。不老不死にさえなれれば遅くても良いんだが不老不死自体が間に合うかどうか

>>309
単純な数値だけじゃなくて研究している当人たちが「もはや、これ以上この分野での発展は無理だ」って感じの動きしない限りはあきらめるに早いと思う

速度が遅くなったらパラダイムシフトの兆しが見えてきたようなものと考えられる。それに今年はコロナ禍もあったしアメリカは特に大変だったからなぁ

そんな大変なアメリカにいながらもイーロン・マスクはよく8月28日にNeuralinkの最新情報を発表できるようになったものだ。自動運転の技術も本人の言葉を信じるならばなかなかの段階にまで仕上がったようだし何だかんだ言って結構いい感じなので歯とも思えてくる

まぁ過去にもペストの大流行だったり世界大戦だったり、人口が大幅に減ったり経済が壊滅したりしたけれど、現在から過去を振り返れば指数関数的成長だったよ
今回の後も続くかは誰にもわからないけど

>>310-311
「カーツワイルはMIT出身だけど学士号しか持ってないので、おおよそ一般的日本人よりは高学歴だがGAFAMの工学者よりは低学歴」
という話を、以前に知り合ったプログラマーから聞いた

本当かぁ？と思ってググったら、IT関係でカーツワイルが持っている学位は「コンピュータ科学の学士号」（a bachelor’s degree in computer science）だけなんだと
https://bit.ly/33ipNvd

カーツワイルは超優秀な技術屋かつ資本家なんだろうけど、科学者ではない。博士どころか修士の学位論文も、査読を通った科学論文も書いてない。つまりこの人は、数学上理数上の根拠がある研究を行った実績ほぼゼロじゃん。
そもそも、カーツワイルが「指数関数」を誤解してるという話もある。
https://bit.ly/2EMofA6

「人類の技術」って数値化できるようなもんじゃないじゃんね
その数値化できるわけじゃないものが指数関数的に伸びてると言われても、それはあくまでイメージの問題でしかないんじゃないかとは思う
人類の過去の歴史を見て、指数関数的でない部分を見つけたとしても、適当な理由を付けて指数関数的であると言い張ることは可能なんだよね、所詮イメージなので
だから元々そんな真面目な話ではなく、ただのお遊び、SF小説の設定みたいなもの、と理解はしていた
逆にムーアの法則だったら数式があるからね

https://bit.ly/2EMofA6exit
ただこれ見るとそもそも例え数値化出来たとしても、特定の「特異点」なるものは存在しなさそうだね

「指数関数に特異点はない」という言い方をしてしまえば、中学生・高校生でもわかることだったんだろうけど
「収穫加速の法則」というイメージレベルであればある程度は納得できるものの上にぽんっと置かれたことで
よくわからんけどそうなんだろう、と思ってしまっていたところはあるな

今から考えると「収穫加速の法則」は「わかる」のに
特異点は「よくわからない」のは、そもそもそんなものはないのだからわかるはずがない、と思えば納得は行く
これは結構面白い話かも

特異点って人間よりプログラムされた知能の方が賢くなったら
そいつがさらに優れたプログラムを書くから最早人間は技術進歩の速度についていけないって話だろ
人間の技術を数値化するとしたら使ったエネルギーとそこから取り出せるエネルギーの比で数値化できるんじゃねえの

なんかお前イメージだけで分かったつもりになってて結局一歩も進んでねえな

カーツワイルの考えはエネルギー中心じゃなく技術中心です
この人が言う特異点が、正式名称で「技術的特異点」（テクノロジカルシンギュラリティ）となっているように。
「使ったエネルギーとそこから取り出せるエネルギーの比で数値化できる」かもしれないけど、それを数値化してどうすんですか

《技術的発展を指数関数グラフで表すと突如急発展し始める特異点がある》というのがカーツワイルの主張
【でも指数関数である以上は特異点ってあり得ないよね】、ってのがカーツワイルへの批判者達が繰り返している話でしょ

凄く大ざっぱで簡単に言えば、「y=2^x」をグラフ化して、yに入る数値を技術的発展度、xに入る数値を時間経過として書いてみたらどうなるか。
https://ja.wolframalpha.com/input/?i=y%3D2%5Ex
特異点なんて無いよね。時間経過するほど（xが増えるほど）、発展していく（yが急上昇していく）というだけ。

実のところ、グラフを縮小表示したりグラフの縦軸の目盛りの間隔を広く取ったりすれば、グラフの成長はまるで真上に伸びるような急激上昇になって、特異点（急上昇し始める段階）はとっくの昔に来て通過してしまったように見える。
しかし逆に、グラフを拡大表示したりグラフの横軸の目盛りの間隔を広く取ったりすれば、グラフの成長はまるで横ばいのようなノロノロ上昇になって、いつまで経っても特異点（急上昇し始める段階）が来ないように見える。
指数関数グラフは曲線だから当たり前。


将来、
「人間よりプログラムされた知能の方が賢くなったら
そいつがさらに超絶優れたプログラムを書くから最早人間は超技術進歩の究極速度に完全ついていけない」って事態が来る可能性は０ではない。
それどころか不老不死、無限のエネルギーだって実現し、貧困や犯罪など全ての社会問題も環境問題も解決するかもしれない。あるいは、ターミネーターのスカイネットみたいにAIが人類を滅ぼすかもしれない。

でもどのみち指数関数に特異点は無いだろ、って話です

特異点ってブラックホールの事で、要するに本当はそれ以上内側を知ることの出来ない事象の地平面の事だろ。
人間にはそれ以上知る事の出来ない境界線、という意図と思う。
まあどのみち専門家からすれば誤用の範疇なんだろう。
何より事実否認が横行しているって事そのものが、既に一定割合の人間にとって「認識できない、理解できない事実、世界」が、上流階級が想定するより遙かに低かった事を意味してると思う。

そういった意味では、大勢が理解から脱落するという意味での特異点はもうとっくに通り過ぎているのかも。

ブラックホールは特異点と推測される一種の現象でしかない

>>317
もっと>>316みたいに数学で説明してくれ
指数関数グラフを使うとか

「シンギュラリティは起きました。計算力は実質無限になりました。
でも核融合も軌道エレベーターも、無理なものは無理と超知能が証明するぐらい無理でした。
銅が尽きて文明は滅びました」

となる可能性も高いんじゃないか？

感覚的にはその考え方に共感するけど、やっぱ数学のグラフや数式で考えないと精密な情報は理解できないと思う
カーツワイルの宣伝した「増加指数関数的な成長の特異点」が、いかにメチャクチャなことを言ってるかは実際の指数関数グラフと比べると一目瞭然なんだ
中学レベルの数学知識でも、簡単な指数関数グラフを書ける

問題は俺を含め、数学で思考する習慣のない人間が非常に多くて「へ～シンギュラリティが来ることは数学的に裏付けされてるんだー」って感じで感覚的に納得してしまっていること

ただ指数関数云々は「2045年」に根拠がないというだけで、「強いAIが実現されるかもしれない」という危惧自体はあるよね。それ言ったら収穫加速則という概念自体意味ないけど。

人間を超える強いAIが誕生して～みたいな概念や危惧は
指数関数的な技術発展により強いAIが（2045年に）誕生して～とだいたい同じです

「強いAI」という用語の中身が情報科学側と哲学側とで食い違うのは珍しくない
情報科学系の学術雑誌だと、《強いAIを実現しようとする論文が増えてきている》という報告もある
（ということはそもそも、《危惧されるような「強いAI」》を想定しているのは哲学者や人文社会科学者くらいだけという可能性もある）

ポーカーのような「不完全情報ゲーム」でのAIを研究するゲーム情報科学では、強いAIは完成済みだと書いている論文もある
その強いAIが《哲学的な議論での「強いAI」》に相当するかしないかで言えば、しないと思う
そういう議論はそもそも「AI」の語義を、情報科学側のAIに合わせていないようだから

今となっては技術的特異点など無くAIは総合的な発想力や人格など得ないが
特化したそれぞれのAIはごく普通に人間のありとあらゆる能力を上回り
人間の特定の能力を発揮するケースの場合は対応した特定AIがあれば不要となり
受け答えやアイディアすら専門的なAIが居ればいいって感じになりつつあるような……
人格なんて無くSFじみた反逆なんてしなくても人間を全ての面で凌駕するのは容易だったと言うことに
というか思ったより人間の個人個人の能力の底が浅すぎたみたいな

これは収穫加速の法則およびシンギュラリティの実現に近づけそうな案件になるのかな？

記事にある現行のAIがどの程度の基準を指しているのか分からないところがあるが大分高性能なミニ脳を作れたのよね、数年後にはどうなってるのかな

この記事とか発表をきっかけに研究費とかが増えて開発速度が速まれば面白いのだが


実験室内で培養した人の「ミニ脳」にゲームをプレイさせることに成功、AIよりも速いわずか5分で習得 - GIGAZINE
https://gigazine.net/news/20211221-human-brain-play-pong-ai/

シンギュラリティという概念は、哲学者も宗教家もオカルト関係者も使っているイデオロギー的で曖昧な概念>>299-300
もともと収穫加速の法則とシンギュラリティを言い出した張本人のカーツワイルは、博士号どころか修士号も持っていない。持っているのは学士号だけ>>312
カーツワイルいわく技術的進化は指数関数的に加速していってシンギュラリティに到達するが、指数関数的にはシンギュラリティは存在しない。指数関数のグラフは書き方次第でシンギュラリティが到来済みなようにも見えるし、永遠に来ないようにも見える>>316
哲学では「強いAI」が実現される可能性を危惧する見方もあるが、情報科学では「強いAI」は完成済みだと書いている論文がある>>323

>>290
ねーよ
そんな事で死んだり科学捨てるような奴なんて今の文明でほっといても自殺するわ

>>325
技術的特異点についてのカーツワイルの説明例
なぜ科学者や情報工学者が技術的特異点を軽視しているのかがよく分かる
https://w.wiki/4Pcp
＞発明家にして思想家のレイ・カーツワイルによれば特異点とは、技術的「成長」が指数関数的に続く中でAIが「人間の知能を大幅に凌駕する」時点であり、特異点では「われわれが超越性（トランセンデンス）──人々がスピリチュアリティと呼ぶものの主要な意味──に遭遇する」と言う。
彼は「特異点に到達すれば、われわれの生物的な身体と脳が抱える限界を超えることが可能になり、運命を超えた力を手にすることになる」とも述べている。

＞レイ・カーツワイルは自著『ポスト・ヒューマン誕生：コンピュータが人類の知性を超えるとき』にて哲学や宗教を根拠とした上で、「進化」は「指数関数的」に「神の概念」へと向かっており、それが特異点をもたらすと述べている。
彼は「したがって、人間の思考をその生物としての制約から解放することは、本質的にスピリチュアルな事業であるとも言える。」としている。また同書で彼は、特異点がSFやファンタジーに似ていることを強調し、次の通り述べている。
「わたしはよく、アーサー・C・クラークの第三の法則を思い起こす。「十分に進んだテクノロジーは、魔法と区別がつかない」というものだ。J・K・ローリングのハリー・ポッターを、こうした観点から考えてみよう。たんなるおとぎ話かもしれないが、これからほんの数十年先に実在する世の中を、けっこうまともに描いたものかもしれない。」

超超超権威主義のこの国がシンギュラリティを迎えたらどうなるか見ものだな

論文のたたき台としては面白い法則だけど基本間違ってると思うよ
これそれに携わってる人口によって指数関数的に増えてる
で人口を維持するのは儲かってるかどうか
宇宙開発の鈍化がこの法則に見事に当てはまってない
ネットやCPUなど指数関数的に増えてるのは儲かってるからだと思うよ
儲からなくなった（人口を維持できなくなる）ところで鈍化する
収穫する成果物の量によって人口が支えられてるて第一次産業だと基本だと思うけどなあ…