Ілон Маск, ІІ і ядзерная зброя

Прыраўноўваючы багацце і мудрасць

У грамадстве ёсць прадказальныя наступствы, якія бяздумна пакланяюцца багаццю і багатым. Мільярдэры часта ўзвышаюцца да прарокаў, інтэлектуалаў і кампетэнтных распарадчыкаў грамадства. Такім чынам, мільярдэр становіцца сакратаром адукацыі, выкарыўшы ўжо знясіленую сістэму дзяржаўнай адукацыі. Заможны кіраўнік хедж-фондаў становіцца сакратаром казначэйства, кіруючы дзяржаўнымі сродкамі, каб у далейшым прыносіць карысць заможным за кошт астатніх. Апалітычны мільярдэр, які нічога не заўважыць, можа прапанаваць арганізму палітыку, здольны вальс у гарадскіх залах кандыдатаў у прэзідэнты. Найбагацейшы ў свеце чалавек атрымлівае цэлыя гарады, каб танцаваць вакол пальцаў, каб вырабіць выдатныя падарункавыя пакеты, каб павялічыць сваё і без таго непрыстойнае багацце. І, нарэшце, неінфармаваны мільярдэр можа выпадкова рабіць неабдуманыя заявы пра геапалітыку і пагрозу чалавечай экзістэнцыі і ўспрымаецца сур'ёзна.

Справа ў сутнасці: нядаўняе і неаднаразовае абвяшчэнне Элона Маск пра тое, што "ІІ значна больш небяспечны, чым ядзерная зброя".

ІІ і ядзерная зброя

Як я ўжо распавядаў у часопісе Elon Musk: Як міфы паралізуюць прагрэс, пакланенне героям-мільярдэрам часта адхіляе ад адчувальнага прагрэсу. Аднак яшчэ адным наступствам такога дрымотнага зваротнага галадання з'яўляецца распаўсюджванне небяспечных меркаванняў дзяржаўнай палітыкі, якія звычайна не ацэньваюцца па сутнасці з крытычным поглядам, але прымаюцца за ўласную вартасць і падмацоўваюцца як Евангелле інакш добранадзейнымі грамадзянамі.

Галоўнае ў параўнанні Маск з пагрозамі штучнага інтэлекту і ядзернай зброі - завышэнне магчымасцей і пагроз, выкліканых штучным інтэлектам, і грубая недаацэнка пагроз ядзернай зброі. Перш чым пагрузіцца ў кожнае, неабходна простае семантычнае ўдакладненне, каб апісаць, што азначае Маск у дадзеным выпадку пад "AI".

Як паведамляе CNBC,

У сваім аналізе небяспекі AI Маск адрознівае прыкладныя ад канкрэтнага выпадку прыкладання машыннага інтэлекту, такія як самакіраванне аўтамабіляў, і агульную машынную разведку, якую ён раней назваў "функцыяй карыснай працы" і "мільён разоў" большая вылічальная магутнасць ”, чым індывідуальны ІІ.
Я на самай справе не ўсё, што турбуецца пра кароткатэрміновыя рэчы. Вузкі ІІ не з'яўляецца рызыкай на ўзроўні. Гэта прывядзе да дыслакацыі, страты працы, паляпшэння ўзбраення і падобных рэчаў, але гэта не асноватворны рызыка ўзроўню, у той час як лічбавая супер-разведка ёсць ", - растлумачыў Маск.

Агульны ІІ

Давайце ўсё будзем проста. Не звяртаючы ўвагі на непатрэбныя тэрміны, якія вырабляюць ўражанне, напрыклад, "утыліты функцый адкрытага тыпу" і "мільёны разоў большая вылічальная магутнасць", Маск падкрэслівае, што яго заклапочанасць не звязана з вузкімі AI. Такія прыкладанні абмежаваны аб'ёмам - алгарытмам, які перашкаджае многім паказвае дадзеныя пра карыстача, напрыклад, узрост, месцазнаходжанне, гісторыю пакупак і г.д., а таксама рассылае рэкамендацыі па рэкламе, шахматную праграму, дыягнастычны інструмент, які адсочвае і кіруе заводскай працай - усё вузкае А.І.

Муска занепакоена агульным AI - які ён характарызуе як "лічбавы супер-інтэлект". Задумваючыся наконт тэарэтычнай канструкцыі, разумнага праграмнага забеспячэння, здольнага асіміляваць дапрацоўкі на аснове навучання ў абагульненай прасторы без абмежаванняў, ігнаруе, наколькі рудыментарны ІІ ёсць і будзе ў агляднай будучыні. Ён таксама ігнаруе, як мала мы ведаем пра інтэлект чалавечага ўзроўню. Як растлумачыў Тобі Уолш, прафесар ІІІ Універсітэта Новага Паўднёвага Уэльса,

Заўвагі Ілона Маск выклікаюць трывогу. Нядаўна я апытаў 300 вядучых даследчыкаў ІІІ, і большасць з іх лічаць, што спатрэбіцца як мінімум 50 гадоў, каб машыны былі разумнымі, як людзі. Так што гэта не праблема, якая патрабуе неадкладнага ўвагі.

Гэта здагадка, калі праблемы інтэлекту і пачуцці ў першую чаргу вырашальныя. Як апісвае Ноам Хомскі ў "Што мы за істоты,

Існуе канцэпцыя пад назвай "новы містэрыянізм", прыдуманая Оўэнам Фланаганам, які вызначыў яе як "постмадэрнісцкую пазіцыю, прызначаную для руху шып чыгункі праз пачутае сцыентызм", уважаючы, што свядомасць ніколі не можа быць цалкам растлумачана. Тэрмін быў распаўсюджаны на больш шырокія пытанні аб маштабе і характары тлумачэнняў, даступных чалавечаму розуму.

Ён працягвае,

Мяне называюць адным з вінаватых у гэтай дзіўнай постмадэрнісцкай ерасі, хаця я аддаю перавагу іншай назве: праўдзівасць. Вось што я думаў сорак гадоў таму, прапаноўваючы размежаванне праблем, якія ўваходзяць у наш пазнавальны патэнцыял, і загадак, якіх няма. У тэрмінах, якія я запазычыў з рахунку Чарльза Сандэрса Перса аб выкраданні, чалавечы розум - гэта біялагічная сістэма, якая забяспечвае яго абмежаваным масівам "дапушчальных гіпотэз", якія з'яўляюцца асновай навуковага даследавання чалавека - і, дзякуючы тым самым разважанням, кагнітыўных дасягненняў наогул. . Па сутнасці, з простай логікі, сістэма павінна выключаць іншыя гіпотэзы і ідэі, якія ўвогуле недаступныя для нас, альбо занадта аддаленыя ў нейкай іерархіі даступнасці, каб быць даступнымі на самай справе, хаця яны могуць быць для іншага розуму структураваным розумам. […]

Іншымі словамі, як растлумачыў Хомскі, лічыце мыш. Пры паўторных эпізодах трэніровак у простым лабірынце мыш можа ў рэшце рэшт разгадаць лабірынт і знайсці выхад. Гэтая задача ўваходзіць у сферу яе разведкі, і таму яе класіфікуюць як праблему.

Калі замест простага лабірынта мышка была зроблена для перамяшчэння па лабірынце простых лікаў, у якім трэба рабіць правыя павароты ў простых ліках, а левыя павароты на непройгрышные, то ніякая колькасць трэніровачных эпізодаў не дасць мышы разумнасці разгадаць гэты лабірынт. Гэта выходзіць за межы яго біялагічных межаў, і, такім чынам, яе класіфікуюць як таямніцу.

Сапраўды гэтак жа і людзі, якія маюць уласную біялагічную сферу і абмежаванні інтэлекту, могуць выявіць, што многія пытанні, звязаныя з інтэлектам і свядомасцю, проста проста загадкі.

Такія сціплыя пытанні не разглядаюцца ў тэхнаполіі, п'янай тэхніцы, з якой Маск сёння з'яўляецца майстрам цырка. Калі чалавек не можа падысці да разумення свядомасці і інтэлекту чалавека, ці можна стварыць яго штучную версію? Магчыма. Магчыма, не. Гэта яшчэ трэба будзе ўбачыць.

Нядаўна, у Джо Роган Падкаст, Маск прыняў сафістыку з бязвыхадна-пафасным і прарочым паводзінам. Тут быў чалавек, які да канца не ацаніў патрабаванні, якія ён выказаў, атрымліваючы асалоду ад узвышэння, якое выклікае складанасць тэхнічных патрабаванняў без заўважнай аддачы.

У нейкі момант у размове Роган спытаў Маск: "Дык што з табой здарылася, калі ты прыняла больш фаталістычны погляд на [...], ці адбывалася нейкая канкрэтная рэч ці гэта была непазбежнасць нашага будучыні?"

Пасля доўгага пустога погляду Маск працягваў ціхім і ўрачыстым тонам: "Я паспрабаваў пераканаць людзей запаволіць, запаволіць ІІ, каб рэгуляваць ІІ. Гэта бескарысна. Я стараўся гадамі. Ніхто не слухаў ”.

Гэта трэба бачыць, каб паверыць.

Ядзерная зброя

Гадзіннік Суднага дня, які падтрымліваецца Бюлетэнем атамных навукоўцаў, з'яўляецца складанай ацэнкай усіх пагроз сусветнай бяспецы, якія ўяўляюць экзістэнцыйную небяспеку для чалавецтва. Гуляючыя фактары ўключаюць геапалітычныя падзеі, развіццё тэхналогій, ацэнку розных фізічных сістэм планеты, такіх як клімат і гэтак далей. Гэта апісваецца наступным бюлетэнем,

Заснаваны ў 1945 г. навукоўцамі Чыкагскага універсітэта, які дапамог распрацаваць першую атамную зброю ў праекце Манхэтэна, "Веснік атамных навукоўцаў" стварыў Гадзіннік Суда праз два гады, выкарыстоўваючы выявы апакаліпсісу (апоўначы) і сучаснай фразеалагізмы ядзернага выбуху. (адлік да нуля), каб перадаць пагрозы чалавецтву і планеце. Рашэнне перанесці (альбо пакінуць на месцы) хвілінную руку Гадзіны суднага дня прымаецца штогод бюлетэнем навукі і бяспекі бюлетэня па ўзгадненні з Саветам спонсараў, куды ўваходзіць 15 лаўрэатаў Нобелеўскай прэміі. Гадзіннік стаў агульнапрызнаным паказчыкам уразлівасці свету да катастроф, звязаных з ядзернай зброяй, змяненнем клімату і новымі тэхналогіямі, якія ўзнікаюць у іншых сферах.

У сваім справаздачы пра гадзіннік суднага дня, накіраванай на 2019 год, "кіраўнікам і грамадзянам свету", паведамляе Бюлетэнь,

Цяпер чалавецтву стаяць дзве адначасовыя экзістэнцыяльныя пагрозы, кожная з якіх можа выклікаць надзвычайную заклапочанасць і неадкладную ўвагу. Гэтыя асноўныя пагрозы - ядзерная зброя і змяненне клімату - узмацніліся ў мінулым годзе за кошт павелічэння выкарыстання інфармацыйнай вайны для падарвання дэмакратыі ва ўсім свеце, узмацняючы рызыку ад гэтых і іншых пагроз і ставячы будучыню цывілізацыі ў надзвычайную небяспеку.

Абедзве гэтыя пагрозы атрымліваюць незвычайна невялікая колькасць асвятлення ў прыватных СМІ, што больш зацікаўлена ў падтрыманні дзяржаўнай і карпаратыўнай улады і спакою грамадзян. Ядзерныя пагрозы атрымліваюць яшчэ меншае асвятленне, чым ужо збяднелыя тыражы сродкаў масавай інфармацыі па змяненні клімату.

У дакладзе апісана некалькі прычын пагаршэння глабальнага ядзернага парадку альбо, папросту кажучы, эскалацыі беспарадкаў:

  1. ЗША адмовіліся ад Сумеснага ўсебаковага плана дзеянняў, шырока вядомы як Іранская здзелка. Гэта шматбаковае пагадненне наклала беспрэцэдэнтныя абмежаванні і мерапрыемствы па праверцы ядзернай праграмы і аб'ектаў Ірана.
  2. Адміністрацыя Трампа выйшла з дагавора INF, які забараняе ракеты сярэдняга радыусу дзеяння. Пагадненне INF дзейнічае больш за 30 гадоў і спрыяе стабільнасці ў Еўропе. Існуе відавочная магчымасць новай канкурэнцыі па размяшчэнні зброі, даўно забароненай. У той час як дагаворы ліквідуюцца, не існуе працэсу, які б стварыў новы рэжым узгаднення ядзерных паводзін. Упершыню з 1980-х гадоў, здаецца, свет накіроўваецца ў нерэгуляванае ядзернае асяроддзе.
  3. Даўнія, неадкладныя паўночнакарэйскія ядзерныя праблемы застаюцца нявырашанымі. Некаторыя добрыя навіны з'явіліся ў 2018 годзе. Велізарная рыторыка 2017 года, якая выклікала страх вайны, у значнай ступені знікла. Саміт паміж прэзідэнтам Трампам і прэзідэнтам Кімам у Сінгапуры ў чэрвені 2018 года, здаецца, быў дыпламатычным крокам наперад. Але ніводнага змястоўнага і трывалага канкрэтнага кроку не было зроблена для стрымлівання альбо адмены ядзернай праграмы Паўночнай Карэі, і мадэрнізацыя яе ядзерных магчымасцей працягваецца.
  4. Нават, калі намаганні па кантролі над узбраеннем змяншаюцца, мадэрнізацыя ядзерных сіл ва ўсім свеце працягваецца. У сваім Пасланні Прэзідэнта Федэральнага сходу 1 сакавіка 2018 года прэзідэнт Расіі Уладзімір Пуцін распавёў аб шырокай праграме мадэрнізацыі ядзернай энергіі, абгрунтаванай як адказ на намаганні супрацьракетнай абароны ЗША. Адміністрацыя Трампа дадала надзвычай дарагую комплексную праграму мадэрнізацыі ядзернай зброі, якая дасталася ім ад адміністрацыі Абамы. Між тым, ядзерныя магчымасці астатніх сямі ядзерных узброеных дзяржаў не рэгулююцца ніякімі абмежаванымі абмежаваннямі, і некалькі з іх - у першую чаргу Індыя і Пакістан - працягваюць пашыраць і мадэрнізаваць свае магчымасці. Гэтыя шматгадовыя праграмы мадэрнізацыі прадугледжваюць наяўнасць значных ядзерных магчымасцей на працягу дзесяцігоддзяў, што мала паказвае на зацікаўленасць у скарачэнні або абмежаванні ядзерных сіл.
  5. Давядзенне да ядзернай зброі, як уяўляецца, расце, і ваенныя дактрыны развіваюцца спосабамі, якія павялічваюць увагу на фактычна выкарыстанні ядзернай зброі. Апошні агляд ядзернай пазіцыі адміністрацыі Трампа выклікае ўдвая трывожную сілу з гэтага пункту гледжання. Гэта акцэнтуе ўвагу на сцвярджэнні, што Расія прыняла ядзерную дактрыну з высокай эскалацыяй. І настойвае на тым, што ЗША таксама павінны быць гатовыя выкарыстоўваць ядзерную зброю ў самых розных абставінах, і таму павінны інвеставаць у новае, больш прыдатнае ядзернае ўзбраенне.

Такія ўзрушаюча небяспечныя распрацоўкі часта не ўваходзяць у павярхоўнае медыя-праграмаванне. У гэтым выпадку іх рэзюмуюць і хутка адпускаюць незацікаўленыя тэхнічныя брошы, якія легкадумна заяўляюць, што "ШІ больш небяспечны, чым ядзерная зброя" на SXSW. Калі рызыка ядзернай зброі не будзе кіравана ў разумныя тэрміны, не будзе дастаткова часу, каб адказаць нават на вышэйзгаданыя пытанні аб мэтазгоднасці генеральнага А.І.

Мускус: геній супер мозгу

Па іроніі лёсу, Маск не губляе сну праз вузкі ШІ, што толькі ўзмацняе пагрозу ядзернага знішчэння. Дзякуючы аўтаматызаваным механізмам адплаты і распаўсюджванню аўтаматызаваных праграмных сістэм для прыняцця рашэнняў, якія ўсё часцей атрымліваюць магчымасць запаліць засцерагальнік, рызыка ілжывых спраў і іншых памылак рашэння толькі ўзрастае. Гісторыя ўжо стала сведкам блізкіх заклікаў да ўздымання валасоў у часы надзвычайных ядзерных прымусаў, калі ўдзельнік прац Pentagon Даніэль Эллсберг шырока апісаў і дакументальна апісаў.

Але якія гэтыя сумныя падрабязнасці перад тварам галівудскай оргіі незвычайнасці, матрыцы і іншых выдуманых ідэй, якія выклікаюць нахабныя прэтэнзіі пра непазбежныя пагрозы з боку суперінтэлектуальнага праграмнага забеспячэння? Маск, панюхаючы мікрафон пад носам, пачынае пісаць ранг невуцкіх прадказанняў, якія перасякаюць міжнародныя адносіны, глабальны ядзерны парадак, кагнітыўную навуку, інфарматыку, штучны інтэлект і неўралогіі, без усялякіх надзейных абгрунтаванняў.

Было б адным са спосабаў, калі б гэты віск знікае ў ноч, не ўспрымаючы яго сур'ёзна. Аднак ён абклеены навінамі, дэзінфармуючы мільёны. Гэта абмяркоўваецца на падкастах, уводзячы ў зман яшчэ больш - проста ў сілу таго, што прамаўляў тэхнічны мільярдэр.

Матывацыя Маск можа быць невырашальнай. Яны могуць вар'іравацца ад забеспячэння грантаў на даследаванні, да складання заяў, якія патрабуюць увагі, якія не патрабуюць дадатковага ўдакладнення, да простага рыбалкі на прыналежнасць, прызначаную для прарокаў. Аднак пакланенне героям паварочваецца да небяспечнага, калі ён муціруе ад простага натхнёнага да назначэння мільярдэраў прысваення інтэлектуальнай, этычнай і нават маральнай ролі кіраўніцтву.

У рамках свайго славеснага фантана ў выглядзе матылькоў падчас SXSW Муск прапанаваў:

Самая вялікая праблема, якую я бачу з так званымі экспэртамі ІІІ - гэта тое, што яны думаюць, што ведаюць больш, чым яны, і лічаць, што яны разумнейшыя, чым на самой справе ", - сказаў Маск. «Гэта імкнецца да чумы разумных людзей. Яны вызначаюць сябе сваім розумам, і ім не падабаецца ідэя, што машына можа быць значна разумнейшай за іх, таму яны скідваюць гэтую ідэю - што ў корані памылкова.

Ну, хіба вы не ведаеце. Машына становіцца самасвядомай.

Пытанні ці каментары? Звяжыцеся з намі на [email protected] Выканайце на Twitter @ConsensusExiled.

Прачытайце гэтую гісторыю пазней у часопісе.

Every Прачынайцеся кожную нядзелю раніцай, каб атрымаць найбольш ўважлівыя гісторыі тыдня ў Tech, якія чакаюць у паштовай скрыні. Чытайце інфармацыйны бюлетэнь, які заслугоўвае ўвагі.