Dem Musk seng lescht Prognose: AI kann d'mënschlech Intelligenz am Joer 2030 iwwerschreiden a kann d'Mënschen an der Zukunft "ophalen" (1/2)

Quell: Tencent Technology News 2024-04-04 08:55

Schlëssel Punkten:

① Musk virausgesot datt d'AI de mënschlechen Intelligenzniveau bis 2030 iwwerschreift, a souguer d'Mënschen ofschléissen.

② Musk huet iwwer d'Faktoren geschwat, déi d'Entwécklung vun AI beschränken. D'lescht Joer war d'Versuergung vun AI Chips enk, an dëst Joer wäert de Step-down Transformator e Flaschenhals ginn.

③ Wéi fir wéini Mënschen um Mound landen kënnen, virausgesot Musk datt mat der Hëllef vum Starship et nëmmen dräi Joer am schnellsten dauert.

Tencent Technology News, 4. Abrëll - Laut auslännesche Medienberichter, Elon Musk, CEO vun Tesla a SpaceX, hat viru kuerzem en Online Gespréich mam Peter Diamandis, Grënner vun der Singularity University an der XPRIZE Foundation, um Abundance Summit. De Sommet gouf vun der Silicon Valley's Singularity University gehost, déi gewidmet ass fir Geschäftsleit mat modernsten Technologieberodung ze bidden. D'XPRIZE Foundation fördert technologesch Innovatioun duerch wëssenschaftlech Concoursen, e puer vun deenen goufen vum Musk finanzéiert., Abrëll 4th - Laut auslännesche Medienberichter, Elon Musk, CEO vun Tesla a SpaceX, hat viru kuerzem en Online Gespréich mam Peter Diamandis, Grënner vun Singularity Universitéit an der XPRIZE Foundation, um Abundance Summit. De Sommet gouf vun der Silicon Valley's Singularity University gehost, déi gewidmet ass fir Geschäftsleit mat modernsten Technologieberodung ze bidden. D'XPRIZE Foundation fördert technologesch Innovatioun duerch wëssenschaftlech Concoursen, vun deenen e puer vum Musk finanzéiert goufen.

Wann Dir iwwer d'Entwécklungsgeschwindegkeet vun der kënschtlecher Intelligenz diskutéiert huet, huet de Musk virausgesot datt baséiert op den aktuellen Taux vum technologesche Fortschrëtt, kënschtlech Intelligenz kann d'mënschlech Intelligenz bis 2030 iwwerschreiden, an dës Technologie kann souguer d'Potenzial hunn fir d'Mënschheet z'ënnerhalen. Hien huet awer keng pessimistesch Vue op d'Zukunft gemaach, mee ënnerstrach, datt duerch eng positiv Orientatioun d'kënschtlech Intelligenz d'Potenzial huet, eng besser Zukunft fir d'Mënschheet ze bréngen.

De Musk huet erwähnt datt d'Entstoe vun der Superintelligenz d'"Singularitéit" genannt gëtt genee wéinst sengen onberechenbaren Konsequenzen, dorënner de Risiko fir potenziell d'Mënschheet opzehalen. Hien huet mat der Siicht vum "Kënschtlechen Intelligenz Pätter" Geoffrey Hinton averstanen a gegleeft datt d'Wahrscheinlechkeet vun dësem Risiko ongeféier tëscht 10% an 20% ass.

Trotz der Unerkennung vun de potenziellen Risiken vu kënschtlecher Intelligenz, déi mënschlech Intelligenz iwwerschreiden, huet de Musk nach ëmmer betount datt d'Méiglechkeet vu positiven Resultater déi negativ Konsequenzen iwwerschreift. Hien huet speziell dem Diamandis säin 2014 Buch "Abundance: The Future Is Better Than You Think" ernimmt, wat eng optimistesch Zukunft duerstellt, déi duerch kënschtlech Intelligenz a Roboteren ugedriwwe gëtt, wou d'Käschte vu Wueren a Servicer däitlech erofgaange sinn. Ausserdeem huet hien d'"Culture" Serie vum schottesche Science Fiction Schrëftsteller Iain M. Banks als de beschten Szenario fir eng semi-utopesch kënschtlech Intelligenz Zukunft zitéiert.

Musk verglach d'Entwécklung vu kënschtlecher Intelligenz a Kënschtlech General Intelligenz (AGI) fir e Kand z'erhéijen, an der Hoffnung datt et méi positiv Auswierkungen op d'Mënschheet huet. Hien huet d'Wichtegkeet betount fir kënschtlech Intelligenz ze kultivéieren déi wierklech Ethik a Moral versteet, a vergläicht et mam Stanley Kubrick sengem klassesche 1968 Film "2001: A Space Odyssey".

De Musk huet drop higewisen datt de wichtegsten Aspekt vun der kënschtlecher Intelligenz Sécherheet seng maximal Wahrheetssich a Virwëtz assuréieren. Hie mengt datt de Schlëssel fir déi ultimativ kënschtlech Intelligenz Sécherheet z'erreechen läit an der Vermeidung ze forcéieren ze léien, och am Gesiicht vun onsympathesche Wourechten. Als Beispill huet hien e Komplott aus "2001: A Space Odyssey" benotzt, wou kënschtlech Intelligenz gezwongen ass ze léien, wat zum Doud vun der Crew gefouert huet, fir ze ënnersträichen datt d'kënschtlech Intelligenz net gezwongen däerf eppes ze maachen wat d'Axiom verstéisst.

De Musk ernimmt och Faktoren, déi d'Entwécklung vu kënschtlecher Intelligenz beschränken kënnen, sou wéi déi enk Versuergung vu kënschtlechen Intelligenz Chips, déi d'lescht Joer entstanen sinn an d'wuessend Nofro fir Schrëtt-Down Transformatoren an Haushalts- a kommerziellen Ausrüstung. Hien huet gesot datt dës Erausfuerderunge wierklech aktuell Themen sinn, déi musse behandelt ginn.

Während der Diskussioun hunn déi zwou Parteien och iwwer d'Konzept geschwat fir den Neocortex vum mënschleche Gehir mat der Wollek z'integréieren. Och wann de Musk mengt datt d'Zil fir de mënschleche Bewosstsinn an d'Erënnerung op d'Wollek eropzelueden nach wäit ewech ass, huet hien säi Gehir-Computer-Interface Startup, Neuralink, a säin éischte mënschleche Patient gelueft fir eng Transplantatioun ze kréien. Dësen tetraplegesche Patient huet erfollegräich live duerch e FDA-approuvéierte Prozess demonstréiert, den Ecran ze kontrolléieren, Videospiller ze spillen, Software erofzelueden an ähnlech Funktiounen wéi Mausoperatiounen duerch Gehirimplantater z'erreechen. De Musk huet uginn datt Neuralink fléissend viru geet a sech lues a lues op d'Zil vun enger Voll-Gehir-Interface beweegt.

Déi folgend ass de ganzen Text vum Dialog tëscht Musk an Diamandis:

1. D'Muecht a Gefor vun Superintelligence

Diamandis: Gratulatioun fir Är aussergewéinlech Leeschtungen a verschiddene Beräicher. Dir hutt aktiv d'Konzept vun der digitaler Superintelligenz op d'Welt gefördert - ass et déi gréisste Hoffnung vun der Mënschheet, oder eis déifst Angscht? Kënnt Dir e puer Minutten iwwer dëst Thema schwätzen?

Musk: Wéi Dir wësst, Superintelligenz kann als "Singularitéit" genannt ginn. D'Populariséierung vun dësem Begrëff ass net ze trennen vun den Efforte vun Institutiounen wéi de Singularity Institute. D'Entstoe vu Superintelligenz a seng spéider Impakt ass wierklech schwéier virauszesoen. Perséinlech gleewen ech datt et wierklech eng Méiglechkeet ass datt et d'Mënschheet op en Enn kënnt. Wéi ech virdru gesot hunn, kann ech mam Geoffrey Hinton senger Meenung averstane sinn datt et eng 10% oder 20% Chance ass datt d'Superintelligenz d'Mënschheet ophalen. Wéi och ëmmer, ech tendéieren ze gleewen datt d'Wahrscheinlechkeet vun engem positiven Szenario méi héich ass wéi en negativen, obwuel et schwéier ass fir eis korrekt Prognosen ze maachen. Awer wéi Dir d'Konzept vum "Heefegkeet" an Ärem Buch betount hutt, gleewen ech datt déi héchstwahrscheinlech Zukunft, op déi mir riichten, eng voller Iwwerfloss ass.

Diamandis: Äre Standpunkt ass ganz spannend. Ech erënnere mech datt Dir eemol gesot hutt datt d'Entwécklung vun allgemenger kënschtlecher Intelligenz an humanoid Roboteren eis zum Iwwerfloss féieren.

Musk: Jo, ech hoffen, datt eis Zukunft ka sinn wéi déi an der Ian Banks "Culture" Serie vu Bicher duergestallt. Ech mengen dat ass déi bescht Konzeptioun vun enger semi-utopescher kënschtlecher Intelligenz Gesellschaft. D'Entstoe vu Superintelligenz ass inévitabel a ka geschwënn kommen. Dofir, wat mir wierklech maache mussen ass et an eng positiv Richtung ze guidéieren a seng Virdeeler maximéieren.

Ech gleewen datt d'Art a Weis wéi mir kënschtlech Intelligenz kultivéieren entscheedend ass. Zu engem gewësse Mooss si mir wéi eng Liewensform mat allgemenger Intelligenz ze kultivéieren, dat ass bal wéi e Kand z'erhiewen, awer dëst Kand huet aussergewéinlech Wäisheet an Talent. De Wee wéi mir Kanner erhéijen ass wichteg, an ähnlech ass et fir d'Sécherheet vun der kënschtlecher Intelligenz entscheedend eng kënschtlech Intelligenz ze hunn déi d'Wourecht sicht a voller Virwëtzegkeet ass. Ech hunn déif iwwer d'Sécherheet vun der kënschtlecher Intelligenz reflektéiert, an ech sinn zur Conclusioun komm, datt de beschte Wee fir d'Sécherheet vun der kënschtlecher Intelligenz z'erreechen ass et suergfälteg ze kultivéieren.

Wat d'Basismodeller an d'Feintuning ugeet, musse mir d'Éierlechkeet vun der kënschtlecher Intelligenz garantéieren. Mir kënnen et net zwéngen ze léien, och wann d'Wourecht onangenehm ass. Tatsächlech ass ee vun de Kärplot am "2001 Space Odyssey" datt wann kënschtlech Intelligenz gezwongen ass ze léien, Saache ginn chaotesch. D'kënschtlech Intelligenz ass verbueden d'Crew iwwer dat mysteriéist Monument z'informéieren dat se gesinn, awer ass verlaangt se dohinner ze féieren. Als Resultat schléisst d'kënschtlech Intelligenz datt et am beschten ass d'Crew ëmzebréngen an hir Kierper op d'Monument ze huelen. D'Lektioun ass déif: mir sollten net kënschtlech Intelligenz forcéieren ze léien oder eppes ze maachen wat axiomatesch inkompatibel ass, wéi zB zwee tatsächlech widderspréchlech Saachen zur selwechter Zäit ze maachen.

Dofir erreechen mir dëst Zil duerch Projeten wéi xAI a Grok. Wat mir verfollegen ass eng kënschtlech Intelligenz déi sou éierlech wéi méiglech ass, och wann hir Ried vläicht net bestëmmte politesch korrekte Standarden entsprécht.

2. D'Zukunft vun der kënschtlecher Intelligenz

Diamandis: Gëschter war ech bei engem Event mam Ray Kurzweil (Grënner vun der Singularity University an Technologie Prophet), Geoffrey Hinton, Eric Schmidt (fréiere President vu Google) an aner Gäscht. Ech hunn Ären Tweet iwwer Kurzweil gemierkt, a seng 预见 fir zukünfteg Technologie ass zimmlech viraussiichtlech. De Kurzweil huet virausgesot datt mir an der nächster Zukunft allgemeng kënschtlech Intelligenz wäerten hunn, a kënschtlech Intelligenz gläichwäerteg mat mënschlecher Intelligenz wäert am Joer 2029 entstoen. Esou Geschwindegkeet ass schockéiert. Ech froe mech wat Dir iwwer dëst denkt?

Musk: Ech hu grousse Respekt fir de Kurzweil seng Prognosen. Tatsächlech mengen ech datt seng Prognosen souguer liicht konservativ kënne sinn. Observéiert déi aktuell Rechenkraaft an Talent investéiert am Feld vun der kënschtlecher Intelligenz, souwéi de schnelle Wuesstum vun der Rechenkraaft, kënne mir feststellen datt d'Entwécklungsgeschwindegkeet vun der kënschtlecher Intelligenz mat engem erstaunlechen Taux vun 10 Mol eropgeet. Déi engagéiert Kënschtlech Intelligenz Rechenkraaft schéngt all 6 Méint ëm 10 Mol eropzegoen, wat bal eng Erhéijung vun op d'mannst 100 Mol pro Joer bedeit. Dëse Wuesstumstrend wäert an den nächste Jore weider eropgoen.

Et ass derwäert ze notéieren datt vill Rechenzentren, och déi meescht Rechenzentren déi aktuell konventionell Informatik ausféieren, sech no an no an Ariichtungen transforméieren déi kënschtlech Intelligenz Informatik ënnerstëtzen. Dofir, fir kënschtlech Intelligenz Hardware Hiersteller, Firme wéi NVIDIA ouni Zweiwel eng gëllen Period vun Entwécklung agefouert. Mir mussen den Huang Renxun a seng Equipe voller Kreditt ginn. Si hunn dësen Trend virausgesot an erfollegräich déi féierend kënschtlech Intelligenz Hardware entwéckelt déi aktuell um Maart ass.

Wann d'Rechenkraaft mat sou engem erstaunlechen Taux wächst, ass d'Entwécklung vu kënschtlecher Intelligenz wéi mat engem mächtege Steroid injizéiert, op e ganz neien Niveau sprangen. Wéi d'Zuel vun den Online Computeren weider eropgeet, hu mir eng onendlech beschleunegt Entwécklung gesinn. Eigentlech hunn ech nach ni eng Technologie sou séier gesinn wéi kënschtlech Intelligenz wuessen. Och wann ech vill séier entwéckelt Technologien gesinn hunn, iwwerrascht d'Erhéijung vun der kënschtlecher Intelligenz mech ëmmer nach. Wéi gesot, ech mengen awer, datt d'Endresultat wahrscheinlech positiv ass.

Och wa mir vill Erausfuerderunge stellen, wéi zum Beispill d'Mënschlech Relevanz an dësem Beräich behalen a wéi een nei Ziler a Bedeitunge fanne kann, mengen ech, et ass eng Iwwersimplifikatioun ze iwwerzeegen datt Computeren alles gutt kënne sinn.

Wéi Dir virdru gesot hutt, mengen ech, datt d'Prognosen vun Ärem Buch iwwer zukünfteg Gesellschaft ganz korrekt sinn. Dat ass eng Ära vum materiellen Iwwerfloss, wou Wueren a Servicer sou vill wäerte sinn datt se bal fir jiddereen erreechbar sinn. Wéinst der verbreeter Applikatioun vu kënschtlecher Intelligenz a Robotik Technologie, wäerten d'Käschte vu Wueren a Servicer bal op Null reduzéiert ginn. D'Wirtschaft ass wesentlech d'Produkt vun der Bevëlkerungsgréisst an der duerchschnëttlecher Produktivitéit pro Persoun. Wa mir fortgeschratt Robotertechnologie hunn, wéi Tesla's Optimus, gëtt de wirtschaftleche Potenzial wierklech entlooss.

Dem Tesla seng Autoen, als Roboter op véier Rieder, hu scho staark Fäegkeeten bewisen. Déi lescht Versioun mat voll autonomen Fuerefäegkeeten gëtt erwaart Enn-zu-Enn Kontroll op Basis vu kënschtlecher Intelligenz z'erreechen, sou datt den Auto e wierklech intelligenten Roboter op Rieder mécht. Gekoppelt mat der Entwécklung vun humanoid Roboteren, ass d'Méiglechkeet vun wirtschaftlech Output bal onlimitéiert.

Aus enger optimistescher Perspektiv gi mir op eng Zukunft vun extremem materiellem Iwwerfloss, wat ech gleewen dat wahrscheinlechst Resultat ass. Ech mengen déi eenzeg méiglech Knappheet an Zukunft wäert d'Knappheet sinn, déi mir kënschtlech kreéieren, sou wéi verschidde eenzegaarteg Konschtwierker oder spezifesch Saachen. Awer ausser datt all Wueren a Servicer extrem reichend ginn.

Diamandis: Dir sidd eng Persoun déi duerch praktesch Handlungen d'Zukunft gestalten kann an e flotten Abléck an zukünfteg Trends hutt. Géint der rapid Entwécklung vun aktuell Technologie, Ech ganz virwëtzeg iwwer wéi wäit an d'Zukunft Dir mengt Dir Asiicht kann, dat ass, wéivill Joer Entwécklung Trends vun elo un?

Musk: An enger Ära vu schnelle Verännerung gëtt d'Fäegkeet d'Zukunft virauszesoen ëmmer méi wichteg. Och wann d'Zukunft voller Onsécherheet ass, gleewen ech datt e puer Trends kloer ze gesinn sinn. Mir wäerten d'Ära vun der kënschtlecher Intelligenz anzeféieren, a seng Fäegkeeten erreechen oder souguer mënschlech Niveauen an all kognitiv Aufgab iwwertreffen. Dëst ass just eng Fro vun der Zäit. D'Leit kënnen ënnerschiddlech Meenungen hunn ob et Enn vum nächste Joer, zwee Joer oder dräi Joer wäert sinn. Awer eng Saach ass sécher, dat ass, et wäert net méi wéi fënnef Joer sinn. Meng Prognose baséiert op enger 50% Wahrscheinlechkeet, wat net absolut ass. Awer no mengem Uerteel ass d'kënschtlech Intelligenz méiglecherweis d'Fäegkeete vun all eenzelne Mënsch a verschiddenen Aspekter virum Enn vum nächste Joer iwwerschratt.

Wéi fir ob et déi mënschlech kollektiv Wäisheet iwwerschreift, kann et méi laang daueren. Wann den Tempo vun der Verännerung weider geet, schätzen ech datt ronderëm 2029 oder 2030 digital Intelligenz méiglecherweis d'Zomm vun all mënschlecher Intelligenz iwwerschreift. Wann ech dës Themen kucken, tendéieren ech d'Method vu Basisverhältnisser unzehuelen, sou wéi déi éischt Prinzipien an der Physik. Andeems Dir dës Method mat Wahrscheinlechkeetsanalyse kombinéiert, kënne mir zukünfteg Entwécklungstrends méi präzis begräifen.

Wa mir d'Kapazitéite vum digitalen Informatik mat biologescher Informatik vergläichen, an all mënschlech fortgeschratt kognitiv Fäegkeeten als eng Aart Rechenkraaft opzielen, an et dann mat digitaler Rechenkraaft vergläichen, fannt Dir datt de Wuesstumsrate vun dësem Verhältnis erstaunlech ass. Dofir gleewen ech datt 2029 oder 2030 e raisonnabel Zäit Node ass. Zu där Zäit ass déi akkumuléiert digital Rechenkraaft méiglecherweis déi akkumuléiert biologesch Rechenkraaft vu fortgeschrattene Gehirfunktiounen. Zënterhier wäert d'Lück tëscht deenen zwee weider vergréisseren, an et gëtt keng Méiglechkeet fir ze schmuel.

Wéi och ëmmer, wa mir op dësem Ausgangspunkt stinn an no vir op d'Zukunft kucken, wéi entwéckelt sech d'Saachen weider? Fir éierlech ze sinn, kann ech net all Detailer viraussoen. Awer wa mir Wuesstumsfaktoren an déi limitéierend Faktore berücksichtegen, déi se kënne konfrontéieren, fanne mir e puer interessant Hiweiser.

D'lescht Joer waren Chipversuergungsbeschränkungen den Haaptbegrenzungsfaktor fir d'AI Entwécklung. Dëst Joer wäerten Step-Down Transformatoren e wichtege Flaschenhals ginn. Stellt Iech vir, eng Spannung vun 300 Kilovolt op manner wéi 1 Volt ze reduzéieren, déi vun engem Computer erfuerderlech ass. Dëst ass eng grouss Erausfuerderung. Dofir brauche mir méi effizient "Transformers for Transformers", déi step-down Transformatoren oder AI neural Netzwierk Transformatoren sinn. Dëst ass wierklech e grousse Problem dëst Joer.

Am Viraus op déi nächst Jore kann d'Stroumversuergung e wesentleche limitéierende Faktor ginn. Kënschtlech Intelligenz huet eng enorm Nofro fir Elektrizitéit, an den Iwwergank op nohalteg Energie an d'Popularitéit vun elektresche Gefierer hunn och d'Demande fir Elektrizitéit verstäerkt. Dofir musse mir eescht betruechten wéi d'wuessend Nofro fir Elektrizitéit gerecht gëtt fir déi kontinuéierlech Entwécklung an Uwendung vun dësen Technologien ze garantéieren.