ニコニコ大百科

だからそういう足枷になる人類の特徴は取り除かれると何度言えば

超知性というなら「危うい芽」とやらが生じないようにするだろ。
問題が起きる前に終わっていたみたいな。

まあ普通に考えたら人間がそのまま超知性になるから危うさは超知性人間のモラル次第だな。

人間が超知性にならない未来はありえないと思うし。
現代人がケータイ、スマホ、PC(という情報テレパシー能力付加端末)を捨てて生活出来ない程度には。

帰納法の話だから
>>119の言う通り成るように成ってしまうだろう
人類は絶滅する！とか個人的な希望言われても何言ってんだこいつ感がするが…
勝手にしやがれ

人類が絶滅してはいけない、みたいな変な固執、偏見があるのは良くない。
知性はどんどん加速されるべき。

今まででもプランクトンや植物が
「酸素を養分にしてとてつもない行動力を得るのは背徳的だ！」
なんて考えたわけでもなし

AIも私達の子供よ

「人類」の定義によるが、人類絶滅は問題ない。問題は今ここで話してる我々が死ぬことだ
不老不死実現＋機械の取り入れ、肉体精神改造で超知性が生まれれば問題ないし、恐らくそうなるだろうが
これは有り得ない、我々は足枷にしかならないと主張するのがここにいる

>>sm21165163

これ４１～６３年辺りの直線部分の傾きが（直線過ぎるのは置いといて）維持されてたら９９年頃に人間の頭脳超えてる……というか９９年に２０１３年の文化文明のレベルになってる……？

人間の利益と人間文明の利益を両立させるなら2050年くらいから出生制限して一世紀か二世紀くらいで緩やかに置き換われば良いんだけどね。コンピュータもそれくらいは待ってくれるだろうし。
しかし人間文明の利益って何なんだろうなあ。十九世紀から散々議論やって「そういうものは特にない」って結論になったんだけど。
知性はどんどん加速されるべきなんていうのはくだらん固定概念に過ぎない。知性が加速されれば不完全性原理が解決する訳じゃないだろ？
だから資本主義的の終焉が『人体』の喪失という形で来る可能性はあるけど、それは本質的な問題ではないし、何かを解決してくれる訳でもない。
更に言えば、宇宙規模で言えば人類が滅びようが電脳に置き換わろうがそれは「どうでも良いこと」だし、だからこそ電脳の文明は必要ないとも言える。
コンピュータが人生を楽しむためにバイオの肉体を選択することだって可能なのだしな。

出生は問題ない。新しく生まれた人間に機械を取り入れることも簡単だし、親の生殖機能を改造してサイボーグが生まれるようにすることもできる。

>宇宙規模で言えば人類が滅びようが電脳に置き換わろうがそれは「どうでも良いこと」
そんなことはない。ある程度知性が進歩して科学が発展すれば宇宙の終焉を止めることもできると思われる。

記憶をリセットできるなら不老不死もありだけれど
忘却の実装として寿命は上手く出来たものだと思う。
理想的な記憶って理想的な記録と逆の性質を持ってる。
それは変質し、揮発し、デタラメにつながる事だよ。
その性質がなかったら俺らはこうはなれなかった。

>>128
ふーん。科学の発展で熱力学第二法則が覆るの？
科学って別に魔法の道具じゃないんだよ。宇宙に普遍的に存在する法則を見つけ出して、それを人間に有利なように利用しよう、という立場。
法則レベルで滅びがプログラムされているとしたら無理だと思うけどね。まあ、量子力学で見たら熱力学第二法則は覆りますとかその内出てくる可能性はない訳でもないから、完全に否定はしないが。別にそれは科学の力でも何でもないよ。元々宇宙は永続するものだった、というだけの話。
そしてさ、宇宙の終焉とやらを止めたとして、今度はそれでどうするのって話にならないか？永遠の命が尊いっていうのは人類の一番古典的な固定概念だけど、なんの根拠もないよね。むしろ死んで良いじゃんという価値観もありえる。
連中は人間ベースに作られるけど、すぐに人間を超えちゃうんだよ？現代の人間の価値観とか、生物一般の本能に則って動いてくれるとはとても思えない。
とりあえず最初に戦争がなくなって資本主義経済が解体されそうだけどね。コンピュータに奪い合うものなんてないだろ？情報に関して言えば共産主義が通用するんだから。

科学ではなく技術の発展だな。宇宙の終焉が「宇宙規模で言えばどうでもいい」なら「宇宙規模で言ってどうでもよくない」ことなんて存在しないよ。そもそも「どうでもいい」という概念自体が宇宙規模では無意味にしかならないものだ。

人間を超えようが価値観や本能などどうでもいい。今いる我々の成り果てなんだから。他人事ではないということだ。どう変わろうと今の我々の意識を受け継いでいる。もし将来の超知性が現在我々がやりたくないことをやるとしたら、それは将来我々の「気が変わる」ということだ。

幼い自分の価値観と今の自分の価値観は違うだろう。同じように、未来の、超知性となった自分の価値観は違うかも知れないということだ。

>>130
ちょっと落ち着けよ、自分が的外れな話してることに気づいてくれ


俺たちは長い長い時間をかけて少しずつ賢くなって今まで気にも留めなかったことの細部まで見れるようなって、空を飛んだり、海の奥までへんてこな生物と地上と全く違う世界を見つけたり、自分たちの体を裂いて覗いて精密に動くちっちゃなモノまで見つけて弄れるようにもなった

俺たちの知恵のパワーは強力だ、周りの物体を把握するためのカメラも空を飛ぶための翼も厳しい環境に適応する生き物を遺すための進化の仕組みから複雑な精神の仕組みまで、複雑な生命ができるまでとてつもない時間と犠牲が必要だったろ
けど俺たちは数百年、特にここ数十年、部分的ではあるけど、鳥より高いところを飛ぶ飛行機やチーターより速く走る車、ウイルスまでも見れる電子顕微鏡を作ってきた
感覚までは受け取れないけど動かせる腕や足をそれを失った人が補えるレベルのモノも既にできてる

知恵を使って俺たちは仕組みを理解して新しいものを作れる力があるんだ、それは進化よりもずっと早くて俺たちをより強力にできるんだ
俺たちは昔からずっと、変わってきてるようで根本は変わってないんだよ
自身を強化して、環境に適応し、生き残るための脳を発達させ、手や足、道具を使って、作って目前の問題を解決してきた
なんで俺たちは生き残ろうとするんだ？子を遺そうとするんだろう
おそらく意味はないだろうし、たまたまそういう仕組みができたからだろう

けどもしもここで全てを諦めてしまえば俺たちは何も分からず仕舞じゃないか
もしかしたら何か、何かまだ気づいていないことがあるんじゃないか？俺たちがこうしてることも実は意味があったりするかもしれない、そう期待している、が今では知りようが無いし答えなんかでない
つまり俺たちは諦めてしまうよりも淡い期待にかけて、答えを出すために自身を強化し続け賢くなろうとするんだ

数行長く書いたけどつまり自分が言いたかったことは、知的生命体、特に未来のポストヒューマンの行動原理は、
諦めて知ろうとしないこと<自身を強化して全てを理解しようと努めること
だと思うんだ

>>132
個人的には、そのうちすべてを知ることは不可能である、ということが立証されると思っている。というかもう来てるんだけどね。それがゲーデルの不完全性定理であり、量子力学の不確定性原理であり、心身問題である。そのうちもっときついのが来るよ。
そのときの人間と、我らが後継者たるポストヒューマンたちの存在意義について考えている訳。まあ楽しくオンラインゲームとかやって遊んでるなら良いんだけど。人間の尊厳の問題があるよね。
まあそこまで突き詰めないにせよ。当たり前の話なんだけど、観測技術が有限なら観測成果も有限だからな。過去の文化なんかは、すべて当時の最先端の観測技術が行き詰ったあとに生まれたんだよ。それが有史以来、つい最近まで人類が普遍的に続けてきた宗教を中心とした文化だった訳だ。不可解だから祈るしかなかったのな。
個人的にはポストヒューマンはそっちに回帰すると思っている。
で、それなら別に人間にだって可能なことだ。だから資本主義の終焉が地上の主宰者を置き換える形で訪れるっていうのは分かるんだけど、そこに何か積極的な意義を見出すのは進歩主義の迷妄だと思っているんだよ。

なんか勘違いをしているように見えるんだが、
技術の進歩は指数関数的に加速するという法則・傾向・流れがあるだけで、それに良いも悪いもないだろ。
仮にあなたあるいは世界的権威者が、それが悪いことだとか無意味だと断じたところで流れが止まりはしないよ。
生命誕生からこの方、進化に意味も目的も善悪もあった試しはない。

宇宙が「どうでもいい」とおもっていようが
おれにとっては「どうでもよくない」
意義なんかなくていいし、楽しさを追求できればいい。

>>135
ほんとそれ。子供っぽいけど、これから起こることが楽しみだ！

映画トランセンデンスみてきたぜ。
途中まで不満だったけどラストで納得。

「人間には認知できず干渉できない域に達する」という発想は日本人には無いのだろうか？
この掲示板を見る限り、とことん人間の道具という発想から抜け出せていない。
なぜ日本が米国に勝れないのかよく分かる気がするな。

いや、そもそも人間がコンピュータの奴隷になるとか
そういうありきたりな思想を作ったの日本人じゃないじゃん・・・

>>133
君は不確定性原理と不完全性原理をちゃんと理解してるの？
おれは、量子力学も数理論理学もちゃんと勉強したから多少は知ってる

そしてお前がこの2つに関して一般書で聞きかじった程度の適当な知識しか持ってないというのも分かる

物理や数学みたいな学問って、根底の部分から理解を積み上げていって、始めて頂上に辿り着けるの。何者もそれを経ること無しに、本質的理解にたどり着くことはできない。言い換えれば、地道に基礎から学ばないと、何一つ理解することができない。

君は本質的に科学というものをちゃんと理解していないように思う。理解していない人間がそれについて語ってもあまり意味はない。
何が言いたいかっていうと、もっとちゃんと勉強してから喋って。

>不完全性原理
↓
>不完全性定理

みすった

>>138
ああ、言い方が悪かったな。
認知できず干渉できないっていうのは、人間を奴隷にすることじゃない。
わかりやすく言えばジョジョ5部のディアボロだ。
人間に認知されること自体が災いの種だから、それを避けて人知れず活動するということだ。
人間から見ると全くの無駄だが、人間よりも高度である以上、そちらが正史の担い手になる。
あの映画ラストの聖域はそういう意味合いもあるんだよ。

いや、ディアボロですら無いな。
とにかく徹底的に人間に関わらないようにするだろう。大人が子供の喧嘩に加担することはない。
ドラえもんを作っても、ドラえもん自体が歴史の担い手になれるのであれば救い用のないのび太を見捨てて去ってしまうだろう。

でも実際問題、行動を予想してるのが人間だからなぁ。
現状の人間には予想も付かないような知性を持った存在が、結局どう動くかなんて分かんない、が結論やろ。
いくらかの選択は予想できてもさ。
それさえも合っているか否かなんて分からない。

つーかココで１つの結論を断言している奴も居るけど、凄い自信家だよなぁ。
人間を越えた存在の行動を完全に予測できる、更に上の存在にでも成り切ってるつもりなの？

>>143
これ、なるようになるだな

>>143
そう、ブラックホール内の特異点と同じくその先は現在知られている科学法則が活用せず、全く予測できなくなる。これが「技術的特異点」という言葉の語源だ。

「事象の地平線」の裏では、何が放出されているのか。
慎みある人間は、それについてあまり深く考えるべきではない。
– 学院長、プロホール・ザハロフ,
“その果実の味を知ったがゆえに”

- シドマイヤーズ アルファ・ケンタウリ
“特異点誘導子”

すげえおもしろいな。ワイは理系にはてんでだめだけど、こういう科学と哲学が
同時に問われるような仮説や課題は興味深いよ。2045年なんてもうすぐそこの
ようにも感じるわ。でもその前にムーアの法則が限界を迎えて、コンピュータ
の進化が停滞するようになるともいわれているんだよね。ムーア法則の先に
もっていける発明は科学史上最悪ともいえる論文改ざんによって夢に終わってるしなあ。
案外人間はあと数世紀は今みたいな欲求と煩悩にまみれながらの生活を送ってるのかもな。
でもそのうちそれこそ不老不死やら完全な未来予測やらといったそれまでの人間らしさをうちすてるような発明がなされるかもしれない。
そうなったときに人類はどうするんだろうな・・・かわらず「人間」でいれるんだろうかｗ

今のムーアの法則は平たいコンピューターチップにより多くのものを載せられるようにすることによって進んでいて、これが2022年ごろに限界を迎えると言われている。この次は平たくない三次元のコンピューターチップがムーアの法則を22世紀まで続けると言われているから2045年までは大丈夫。

間違った、22世紀までじゃなく今世紀後半までだ、それでも2045年は大丈夫だが

軟着陸というか、Wikipediaのページで言う「ローカルな特異点」がまさに起きつつあるんじゃないかと思ってる
例えばgoogleの自動運転カー、疲労や寝不足の人間よりも運転技術は「人間以上」だろう
それが普通の人間以上になるには精度を上げればいいだけ、それでなくとも今
グーグルは画像処理、いわば人間の認知機能に力を入れてる
日本でも将来はサービス業をどんどんロボットに入れ替えるって話があるね。製造業に限らず。
少なくとも判断力がそれほどいらず、手作業の「人間風な仕事」が全て機械に置き換わるサマは生きてる内に見れると期待してる
人間最後の砦、クリエイティブな仕事はあくまでタスク補助（ペンタブみたいに）として暫く残るとは思うが。