Няўжо моцны ІІ непазбежны?

Не варта разважаць. Не саступайце экспертам. Паглядзіце самі.

Любое пытанне пра будучыню выклікае невядомыя невядомыя, бескарысныя здагадкі пра неразгаданыя рэчы. Нам патрэбныя прыклады, якія мы зараз можам назіраць і апытаць. Хоць у нас няма моцнага ІІ, мы маем строгія прыклады слабога і моцнага інтэлекту. Параўнанне характару ведаў у яго слабых і моцных формах прапануе праніклівы і нетэхнічны погляд на перспектывы моцнага ІІ.

Наш апошні прыпынак у гэтым падарожжы па ІІ пейзажы прадставіў індукцыю як пераважаючую тэорыю стварэння ведаў і цэнтральную ролю, якую тлумачэнні гуляюць у спраўных індуктыўных сістэмах. Тут я ўжываю гэтую аснову, каб праліць святло на адну з самых спрэчных і важных дыскусій у ІІІ: Ці мы на шляху да штучнага агульнага інтэлекту? Ці з'яўляецца моцны ІІ заўтрашні дзень непазбежным пашырэннем сённяшніх слабых прыкладаў?

Вось план: мы разгледзім два пункты ўзроўню іерархіі ведаў, адзін звязаны са слабым ІІ, другі значна больш моцным. Я адпаведна пазначыў гэтыя пункту гледжання прагнозамі і тлумачэннямі, і я зраблю гэтыя тэрміны больш дакладнымі. На канкрэтных прыкладах вы можаце самастойна ацаніць якасць кожнага інтэлекту і вырашыць, ці будзе шлях ад слабага да моцнага гладкім і паступовым, альбо небяспечным і няспынным.

Магчымае не непазбежна

Перад тым, як пагрузіцца ў вочы, ёсць адзін аспект гэтай дыскусіі, які варта адмовіцца ад розніцы паміж магчымым і непазбежным. Існуе разумнае чаканне, што моцны ШІ фізічна магчымы. Фізік і піянер квантавых вылічэнняў Дэвід Дойч разглядае шмат магчымасцей у "Тканіне рэчаіснасці". Сцвярджэнне аб магчымасці грунтуецца на прынцыпе Цюрынга: "Існуе абстрактны універсальны кампутар, у рэпертуары якога ўваходзяць любыя вылічэнні, якія можа выканаць любы фізічна магчымы аб'ект". Жыццё ўвасабляе інтэлект. Прынцып Тьюрынга кажа пра тое, што кампутар можа быць пабудаваны і запраграмаваны для рэканструкцыі любога фізічнага ўвасаблення, уключаючы такія аб'екты, як мозг, які вырабляе інтэлект. Магчымасць моцнага AI лагічна выцякае з прынцыпу Тьюрынга, які Deutsch сцвярджае, настолькі шырока прызнаны, што з'яўляецца прагматычна праўдзівым.

"Прынцып Тьюрынга гарантуе, што кампутар можа зрабіць усё, што можа зрабіць мозг. Гэта, вядома, дакладна, але гэта адказ з пункту гледжання прагназавання, і праблема адна з тлумачэнняў ". Дэвід Дойч

Нягледзячы на ​​гэты прынцыповы аргумент, непазбежнасць AI застаецца востра аспрэчанай тэмай сярод філосафаў, навукоўцаў і матэматыкаў (Роджэр Пенроуз - асабліва грозны крытык). Аднак рознагалоссі ўкараняюцца менш у тэарэтычных аргументах, як у канкрэтных наступствах "як мы можам атрымаць адсюль". Deutsch тлумачыць: "Тады для аматараў штучнага інтэлекту недастаткова рэзка рэагаваць, што прынцып Тьюрынга гарантуе, што кампутар можа зрабіць усё, што можа зрабіць мозг. Гэта, вядома, дакладна, але гэта адказ з пункту гледжання прагназавання, і праблема - адно з тлумачэнняў. Існуе тлумачальны разрыў ".

Каб ацаніць непазбежнасць ІІ, нам неабходна растлумачыць прабелы ў растлумачэнні паміж слабымі і моцнымі формамі інтэлекту.

Калі ўсё прагназаванне

Апошні кавалак вядзення гаспадаркі. Для некаторых непазбежнасць ІІ не з'яўляецца адказам толькі з пункту гледжання прагназавання, прадказанне - сутнасць самога інтэлекту. Гэта яўна не адпавядае рэчаіснасці. Інтэлект падобны на Уітмена: "Я вялікі, у мяне мноства людзей". Але гэта закон малатка ставіцца да ўсяго, як быццам гэта быў цвік. Такім чынам, матываваны любы функцыянальны разрыў у ІП можа быць названы праблемай прагназавання: Сутнасць праблемы ІІ - прадказанне ва ўмовах нявызначанасці; развагі цягне за сабой дзейнасць прагназавання; прагназаванне агульных правілаў як здаровага сэнсу; і гэтак далей.

Калі ўсё ўкараняецца ў прагназаванні, у тым ліку і ў мэты, кожная адкрытая праблема з'яўляецца паступовай. Часта аргументы пра непазбежнасць спасылаюцца на ўскосныя фактары вытворчасці ў рухавіках прагназавання, такія як тэмпы інвестыцый і павелічэнне колькасці людзей, вылічальных рэсурсаў і дадзеных. Гэта версія дарожнай карты ІІ памеру ў твіт: Прагноз - гэта адзінка інтэлекту. Каб дасягнуць большага інтэлекту, проста дадайце больш рэсурсаў прагназавання.

У нядаўнім артыкуле Harvard Business Review адзін з самых уплывовых даследчыкаў ІІІ Эндру Нг прапаноўвае гэтае правіла: "Калі тыповы чалавек можа зрабіць разумовую задачу менш чым на адну секунду думкі, мы, верагодна, можам аўтаматызаваць яе з дапамогай AI альбо зараз ці ў бліжэйшы час. " Дадзеныя і талент да майстэрскага прымянення праграмнага забеспячэння - адзіныя дэфіцытныя рэсурсы, якія перашкаджаюць прагрэсу ў выкананні гэтых задач на адну секунду. Дзеля справядлівасці, Ng прарэзае ажыятаж, прызнаючы, што "можа быць прарыў, які робіць магчымым больш высокі ўзровень інтэлекту, але да гэтага часу няма дакладнага шляху".

Тэндэнцыя сумясціць магчымасці больш нізкага парадку, такія як прагнозы з больш дасканалымі формамі інтэлекту, не абмяжоўваецца нядбайнай размовай на дзелавых і маркетынгавых форумах. Ён распаўсюджваецца глыбока ў тэхнічныя сферы статыстыкі і машыннага навучання.

Статыстык Галіт Шмулі тлумачыць, як супярэчнасць прагназавання і тлумачэння дасягнула маштабаў эпідэміі, дзякуючы бязладнаму выкарыстанню статыстычнага мадэлявання. "Хоць гэта адрозненне прызнана ў філасофіі навукі, у статыстычнай літаратуры адсутнічае грунтоўнае абмеркаванне шматлікіх адрозненняў, якія ўзнікаюць у працэсе мадэлявання тлумачальнай і супраць прадказальнай мэты". Для многіх тлумачэнні сталі азначаць "эфектыўнае" або "інтэрпрэтаванае" прадказанне.

Разгледзім гэты прыклад з Вашынгтонскага універсітэта, тлумачачы прагнозы любога класіфікатара. "Пад тлумачэннем прадказання" мы маем на ўвазе прадстаўленне тэкставых альбо візуальных артэфактаў, якія забяспечваюць якаснае разуменне сувязі паміж кампанентамі экзэмпляра (напрыклад, словы ў тэксце, патчы на ​​малюнку) і прадказаннем мадэлі ". "Тлумачэнне" - гэта тлумачальнае апісанне чалавека, якое паходзіць з больш складанай мадэлі.

LIME: Лакальныя інтэрпрэтацыйныя мадэльна-агностычныя тлумачэнні. Тут тлумачэнне ставіцца да апісання нізкага ўзроўню (пункцірная чорная лінія), атрыманага ад складанай мадэлі (сіні / ружовы фон).

Гэта элегантнае рашэнне зрабіць складаныя мадэлі больш інтэрпрэтаванымі, але, як мы ўбачым, гэта далёкі крык ад тлумачэнняў у больш строгім навуковым сэнсе гэтага тэрміна. Што характэрна, Нг і яго супрацоўнікі выкарыстоўваюць гэты падыход для "тлумачэння прагнозаў" у нядаўнім артыкуле.

Нас не цікавіць гульня ў слова, мы хочам зразумець сутнасць справы. І як бы мы ні называлі, нам трэба вызначыць, што нешта істотнае аддзяляе прадукты моцнага і слабога інтэлекту. Для гэтага мы больш падрабязна разгледзім прагнозы, звязаныя з машынным навучаннем, і тлумачэнні, звязаныя з навуковымі адкрыццямі.

Машыннае навучанне звязана з прагназаваннем, працэсам навуковага адкрыцця з тлумачэннем.

Слабы інтэлект: рухавікі прагназавання

Гэта мой сабака Тор. Яго нюх на парадак лепш, чым у мяне. Ён чуе гукі на частаце ў 20 000 Гц вышэй маёй верхняй мяжы. Тор успрымае свет такім чынам, якога я ніколі не мог успрымаць. Ён будуе дзіўна разнастайныя прагнастычныя мадэлі. Ён вучыцца дзякуючы станоўчаму і адмоўнаму ўзмацненню (лячэнне печані і тайм-аўты адпаведна). Ён часта мяне здзіўляе, калі я не чую, што ён чуе, альбо пахне тым, што ён пахне. Тым не менш, ён ніколі, ніколі не тлумачыць. Калі свет Тора мяняецца, ён не пытаецца, чаму.

Мой сабака Тор

Нягледзячы на ​​нашу няздольнасць весці глыбокія размовы, я палюбіла Тора. І я адчуваю гэтак жа, як і з маім іншым рухавіком прагназавання, навігацыйным дадаткам у тэлефоне. Гэта часта радуе мяне і накіроўвае мяне праз рух так, як я ніколі раней не ездзіў. Як і Тор, прыкладанне працуе ад патоку дадзеных па-за межамі маіх пачуццяў, хутка нарошчваючы і абнаўляючы яго напрамкі. Як тлумачыцца ў AI-блогу Google, "Для таго, каб забяспечыць нашым карыстальнікам лепшае ўражанне, гэтая інфармацыя павінна пастаянна адлюстроўваць свет, які змяняецца". Але ён ніколі не прапануе тлумачэння трафіку больш высокага парадку, якое дасягае яго пачуццяў.

Прыхільнікі прагназавання могуць плакаць. "Гэта вашы прыклады прагназавання, прыкладанне для навігацыі і ваша сабака ?!" Зноў жа, майце на ўвазе, што я толькі спрабую знайсці плато слабага інтэлекту, каб мы маглі параўнаць яго з больш моцнымі формамі, якія вынікаюць. У гэтым духу нам трэба ўстанавіць мяжу.

Зазіраючы пад капот, характар ​​прадказанняў раскрываецца ў іх межах. Brett Hall прапануе простую ілюстрацыю, гаршчок з кіпенем. Тэмпература вады няўхільна павышаецца да тэмпературы кіпення. Зыходзячы з назіранняў перад тэмпературай кіпення, было б цалкам разумным прадказаць, што тэмпература працягне расці. Але як толькі тэмпература перавышае тэмпературу кіпення, яна не паддаецца прагназаванню і патрабуе тлумачэння. Хол крыва пытаецца: калі экстрапаляцыя не атрымаецца нават пры ўжыванні да гэтай простай сістэмы, як можна чакаць поспеху, калі ўсё складаней?

Вы можаце падумаць, гэта мадэль цацак, ужытая да складанай сістэмы. Гэта абавязкова пройдзе. Проста дайце яму больш дадзеных і больш надзейную мадэль! Гэта сумленная крытыка, паколькі ўся перадумова пакрокавай дарожнай карты заключаецца ў тым, што мы можам працягваць прымаць новыя дадзеныя для стварэння ўсё больш складаных сістэм.

Такім чынам, давайце прыняць найбольш ідэалізаваную канцэпцыю рухавіка прагназавання, які мы можам сабе ўявіць, аракула з богападобнай сілай варажбы. Вы можаце спытаць у аракула ўсё, што хочаце, і ён прадказаць, што будзе. Зразумела, калі грошы будуць каралём, вы просіце яго прадказаць цэны на акцыі. І гэта працуе! Вы ўкладваеце невялікія сумы грошай у акцыі, прагназуемыя да росту, а вашы інвестыцыі павялічваюцца. (Цікава, што вы заўважылі невялікае неадпаведнасць паміж прагназуемымі велічынямі і фактычнымі коштамі акцый, але ў гэты момант нічога не думаеце.)

Паступова памеры і тэмпы вашых інвестыцый павялічваюцца, як і ваш уплыў і рэпутацыя. Цяпер вы не толькі гуляеце на рынках, вы іх рухаеце! Але дзіўна, што ваш аракул пачынае падводзіць вас. Гэтыя разыходжанні паміж прагназаванымі і фактычнымі коштамі цяпер даволі выражаны, што часта падрывае вашы інвестыцыі. Прадказанні вашага аракула пагоршыліся да набліжэнняў. Ён усё яшчэ апісвае сістэму, але не можа сказаць вам уплыў вашых умяшанняў на гэтую сістэму, не перамяшчаючы вас у мадэль.

Гэтыя асаблівасці заключаюцца ў тым, што палітолаг Яўген Міхан назваў сістэмнай парадыгмай тлумачэння. Ён растлумачыў тлумачэнні як эмпірычныя абагульненні, фармалізаваныя ў такіх мадэлях, як байесаўскія сеткі і структурныя ўраўненні. Прагназуемыя вынікі недастатковыя. Назіранні не могуць проста адпавядаць мадэлі, таму што мадэль можа быць створаная для любога набору фактаў і дадзеных. Калі сістэма дастаткова адлюстроўвае навакольнае асяроддзе, прымяняецца прагноз; калі не атрымаецца, прагназаванне не атрымаецца. Гэта тое, што азначае "люстэрка пастаянна змяняецца свету". І гэтая праблема эндэмічная задачы прагназавання.

Неадкладна, сістэмная парадыгма тлумачэння - гэта тое, што многія звязваюць рухавікі з прагназаваннем і паступовы шлях да іх удасканалення. Аднак у якасці прыкладу моцнага ІІ мы можам зрабіць лепш.

Моцны інтэлект: навуковыя тлумачэнні

Раней я ўжо сцвярджаў, што навука, наш самы паспяховы інстытут, які стварае веды, з'яўляецца прыкладам для штучнага інтэлекту. Маючы гэта на ўвазе, я буду прыкладныя прыклады, якія ілюструюць навуковую канцэпцыю тлумачэнняў. У параўнанні з прагназаваннем гэтыя прыклады ахопліваюць шэраг важных адрозненняў па форме, функцыі, дасягненні і інтэграцыі. Я таксама выкарыстаў адно з лепшых навуковых тлумачэнняў, квантавую механіку, каб асвятліць гэтыя адрозненні. Калі AI пачне аўтаматызаваць гэтую якасць навуковых адкрыццяў, мы ўсе, безумоўна, пагадзімся, гэта сапраўды.

Але прыстойна, пачнем з усходу. Вельмі доўга мы лічылі, што сонца ўзыходзіць, таму што мы яго назіраем. Але зараз мы разумеем гэта з пункту гледжання функцыянавання Сонечнай сістэмы і законаў фізікі. Тлумачэнне значна больш надзейны, чым прагназаванне. Мы ведаем, што сонца ўзыходзіць нават калі воблачна. Калі б мы круцілі вакол планеты, частыя ўзыходы сонца не былі б зусім дзіўнымі. (Яны, аднак, застануцца захапляльнымі!) Знешне, нягледзячы на ​​тое, мы на самай справе ведаем, што сонца не ўзыходзіць.

Спынімся на хвіліну, каб паглядзець гэты растлумачаны ўзыход сонца. Існуе вялікая адлегласць паміж нашымі назіраннямі за ўзыходам сонца і яго тлумачэннем. Назіранні выглядаюць рэгулярна і раўнамерна. Кожную раніцу на ўсходзе ўзыходзіць сонца. Але ўсё больш глыбокае тлумачэнне ўзыходу сонца дазваляе не назіраць дадзеныя, напрыклад, тое, што адбываецца, калі сонца затуманяецца аблокамі. Гэта нават дапускае ўяўленне, контрфактычны выпадак назіральнікаў на арбіце.

У сваім абмеркаванні складанасці навуковага высновы філосаф Уэслі Сэлмон выкарыстаў гэты прыклад для характарыстыкі прагнозаў, якія грунтуюцца на "грубай індукцыі", як "бясспрэчна дашкольных", нават антытэзы навуковых тлумачэнняў. Тлумачэнні сядзяць у вяршыні іерархіі ведаў з-за іх глыбіні і дасяжнасці. "Навуковая тэорыя, якая проста абагульніла тое, што ўжо назіралася, не заслугоўвае таго, каб назваць яе тэорыяй". Тут, у навуковым асяроддзі, ілюзія індукцыі разгарэлася. Насуперак ідэі, што веды выкліканы дадзенымі, навука выяўляе багатую інтэграцыю тлумачэнняў, якая прадказвае ў адваротным выпадку непрыкметныя дадзеныя.

Давайце паглядзім пад каўпаком тлумачэнняў, як мы гэта зрабілі з прагнозамі. Тлумачэнні (ці тэорыі) складаюцца з інтэрпрэтацый таго, як працуе свет і чаму. Гэтыя тлумачэнні выражаюцца ў фармалізмах як матэматычныя ці лагічныя мадэлі. Мадэлі служаць асновай для прагнозаў, якія, у сваю чаргу, забяспечваюць сродкі для тэставання праз кантраляваныя эксперыменты.

Адаптавана Дэвідам Дойчам, акрамя Сусветаў

У гэтай схеме тлумачэнні - гэта адзінства інтэрпрэтацый, фармалізмаў і прадказанняў. Кожны кампанент выконвае функцыянальную ролю і кожны можа быць аўтаномным. Ітэратыўна, тлумачэнні могуць быць правераны з дапамогай сваіх прагнозаў, і іх вынікі могуць звярнуць увагу на тлумачальныя прабелы, якія патрабуюць увагі. Але іх аб'яднальная мэта складаецца ў высвятленні і крытыцы тлумачэнняў. У гэтым святле прагнозы (частка) падпарадкоўваюцца тлумачэнням (у цэлым). Тлумачэнні паводзяць сябе больш як жывыя экасістэмы, чым статычныя артэфакты, дынамічны адгавор здагадкі, прадказанні, эксперыменты і крытыка.

Складаны характар ​​навуковых тлумачэнняў знаходзіць багаты выраз у квантавай механіцы. Ёсць рызыка, што гэты прыклад складаней, чым рэч, якую я спрабую растлумачыць. Але гэта таксама адно з самых надзейных і контр-інтуітыўных тлумачэнняў у навуцы. Гэта сапраўды адлюстроўвае прыроду іншапланецянскай звышвыведкі, наша чаканне моцнага ІІ. Нават калі ён вельмі спрошчаны, ён служыць нашай мэты як пік моцнага інтэлекту.

Фармалізмы квантавай механікі могуць выкарыстоўвацца для прагназавання без інтэрпрэтацыі асноўнай фізічнай рэчаіснасці. Але ёсць яшчэ шырокі спектр канкуруючых інтэрпрэтацый, такіх як разбуральныя хвалі, пілотныя хвалі, мноства светаў ці шмат розумаў. І што крытычна, гэтыя інтэрпрэтацыі маюць значэнне. Яны натхняюць даследчыкаў, уплываюць на навукова-даследчыя праграмы і спрыяюць выпрацоўцы будучых ведаў.

Падышоўшы крыху глыбей, разгледзім адрозненне паміж законамі, якія дакладна апісваюць назіранні (з'явы), і тлумачэннямі, якія маюць сілу і сілу для стварэння гэтых законаў. Філосаф Нэнсі Картрайт у сваёй уплывовай кнізе "Як законы фізікі хлусяць" падкрэслівае розніцу паміж абагульненым улікам, здольным падвесці шматлікія назіранні (фенаменалагічныя законы), і спецыфікай, неабходнай мадэлям для прагназавання рэальнага свету. "Шлях ад тэорыі да рэальнасці ідзе ад тэорыі да мадэлі, а потым ад мадэлі да фенаменалагічнага закона. Фенаменалагічныя законы сапраўды адпавядаюць аб'ектам у рэчаіснасці - альбо могуць быць; але асноўныя законы датычацца толькі аб'ектаў у мадэлі ».

Такім чынам, зноў жа, каб ацаніць, наколькі глыбока адрозніваюцца навуковыя тлумачэнні ад прагнозаў, вернемся да прыкладу квантавай механікі. Існуе абагульненая тэорыя, як сістэма будзе змяняцца (фармалізавана ў раўнанні Шрэдынгера) і пэўныя энергіі, якія дзейнічаюць на сістэму (фармалізавана як аператар Гамільтана, створаны для гэтай сістэмы). Картрайт тлумачыць: "Праўда, ураўненне Шрэдынгера распавядае, як развіваецца квантавая сістэма ў залежнасці ад гамільтонаўскага; але для таго, каб заняцца квантавай механікай, трэба ведаць, як выбраць гамільтан. "

Як і наш узыход, квантавая тэорыя ахоплівае багатую іерархію тлумачэнняў, а не дадзеных, якія распаўсюджваюцца ад абагульненых канцэпцый да больш канкрэтных мадэляў, здольных рэальна прадказаць вынікі.

Індуктыўныя сістэмы таксама маюць справу са структурай, напрыклад, іерархія функцый, якія складаюць малюнак. Але тут мы гаворым пра структуры, якія не проста апісваюць і не прадстаўляюць дадзеныя, а тлумачаць іх асноўныя прычыны. Гэтыя інтэграцыі ўтвараюць рашотку, якая падтрымлівае цэлыя будынкі, распаўсюджваючыся да самой мовы як прымітыўнага тлумачэння. Падобна таму, што рэчаіснасць існуе ў складаных узроўнях абстракцыі, тлумачэнні патрабуюць падтрымкі іншых тлумачэнняў. І часцяком тлумачэнні цалкам выдаляюцца ад дадзеных і назіранняў. Як і нейкая дваістасць розум-цела, гэта адзінства з'яўляецца зместам самога пазнання.

Няўжо моцны ІІ непазбежны?

Зараз у нас ёсць два розных пункту гледжання, больш слабае плато прадказанняў і мацнейшы пік навуковых тлумачэнняў. Такім чынам, мы ідзем ад аднаго да іншага, каб пайсці, каб адказаць на пытанне.

Першая перашкода на нашым шляху - гэта разрыў умяшанняў. Прагназаваць, можна зрабіць новыя назіранні за межамі таго, што мы назіралі да гэтага часу. Прагнозы абмяжоўваюцца здагадкай аб аднастайнасці. Калі сістэма мяняецца, для стварэння больш дакладнай мадэлі неабходныя новыя дадзеныя. Мадэль менш каштоўная, калі яна проста апісальная. Мы хочам, каб прагназаваць дзеянні, купіць запас ці лячыць хваробу. Але ўмяшанне цягне за сабой змяненне сістэмы, парушэнне здагадкі аб аднастайнасці.

"Бог спытаў факты, і яны адказалі тлумачэннямі". Жамчужына Юдэі

Такім чынам, наколькі шырокі разрыў умяшанняў? Юдэя Жамчужны - піянер сучаснага ІІІ і верагоднасці разваг. У «Кнізе чаму» ён змяшчае асацыятыўныя прагнозы на самай нізкай стужцы інтэлекту; ўмяшання і больш вобразныя контрафактычныя развагі як больш моцныя формы. Пэрл тлумачыць, чаму гэтыя веды больш высокага парадку не могуць быць створаны з імавернасных асацыяцый, якія характарызуюць індуктыўныя сістэмы. Як адзін з ініцыятараў гэтай ідэі, ён цяпер "збянтэжаны" тым, што верагоднасці складаюць мову прычыннасці і веды вышэйшага парадку. Дастаткова сказаць, што разрыў умяшанняў у лепшым выпадку ахопліваецца хісткім мостам, які нават Індыяна Джонс не зможа перасекчы без паўзы. Але мы тупаем далей.

У рэшце рэшт мы дабяромся да яшчэ больш навязнага бар'ера, абрыву дадзеных. Хоць інтэрвенцыі ствараюць значны прабел на нашым шляху, яны нішто ў параўнанні з гэтай перашкодай. Палівам індуктыўных сістэм з'яўляюцца дадзеныя. Навуковыя здагадкі часта апісваюць як скачкі ўяўлення. "Дадзеныя" ўяўлення, контрфакты, па вызначэнні не назіраюцца фактамі! У адрозненне ад дадзеных, веды складаюцца з багатай рашоткі ўзаемна падтрымліваючых тлумачэнняў. Калі я спрабую ўзгадніць захапленне тэхналогіямі, якімі кіруюцца дадзеныя, з рэальнасцю ведаў, я ўзгадваю, як Wile E. Coyote бягуць з абрыву. Што яго затрымлівае?

У сваёй крытычнай ацэнцы глыбокага навучання навуковец і даследчык ІІІ Гэры Маркус сцвярджае, што глыбокае навучанне можа біць аб сцяну (а можа і зваліцца з абрыву). Ён аглядае многія тэмы, якія абмяркоўваюцца ў гэтым паведамленні, такія як закон аб малатчыку, празмерная залежнасць ад дадзеных, межы экстрапаляцыі, праблемы, выкліканыя ўмяшальніцтвам і контрфактычнымі развагамі, "герменеўтычны" характар ​​гэтых самадастатковых і ізаляваныя сістэмы і іх абмежаваная магчымасць перадачы ведаў.

Прыхільнікі глыбокага навучання працягваюць энергічна адстойваць сваю пазіцыю. Але такое ўспрыманне таго, што AI б'е ў сцяну, прымушае пераасэнсаваць перспектывы індуктыўных сістэм. Прымаючы пульс супольнасці і некаторыя прыкметныя невыкананыя чаканні, даследчык ІІІ Філіп Пенкнеўскі сцвярджае, што расчараванне, а не моцны ІІІ, - адзіны непазбежны вынік.

Маркус, як і Жамчужына, уяўляе сабой будучыню, якая спалучае ў сабе элементы тлумачальных ведаў з індукцыяй. "Правільным крокам сёння можа стаць інтэграцыя глыбокага навучання, якое пераўзыходзіць успрыманне класіфікацыі, з сімвалічнымі сістэмамі, якія пераўзыходзяць выснову і абстракцыю". Гэта, несумненна, дакладна. Тлумачальная сіла ўжо разгорнута ў метадалогіях машыннага навучання, як і пры адборы дадзеных, выбары здагадак, якія прадугледжваюць алгарытмы вывучэння зрушэння, і асноўныя веды, якія выкарыстоўваюцца для стварэння індукцыі.

Але гэта толькі назіранні экспертаў. Вы ўжо ведаеце гэта. Вы ведаеце, што рэальнасць часта не паддаецца вашым здагадкам аб аднастайнасці і псуе вашы лепшыя планы. Вы не проста назіраць усход сонца, вы ведаеце, чаму ён узыходзіць. Вы нават распакавалі багатую тлумачальную структуру квантавай механікі. Вы ведаеце, што самыя перадавыя індуктыўныя сістэмы даюць толькі данавуковыя веды, грубыя па стандартах нашых лепшых навуковых тлумачэнняў.

І таму вы можаце самі адказаць: ці будуць пераадолены прабелы паміж слабым і моцным інтэлектам прадказальнымі паэтапнымі крокамі альбо смелымі здагадкамі.

Па маёй ацэнцы, усе перашкоды для моцнага ШІ былі аслаблены інструментальным захапленнем індуктыўнымі сістэмамі. Індуктыўныя сістэмы, такія як глыбокае навучанне, з'яўляюцца магутным інструментам. Цалкам зразумела, нават чакалася, што мы павінны пачаць з практычнага выкарыстання. Калі ў пачатку прамысловай рэвалюцыі былі вынайдзены цеплавыя рухавікі, першапачатковы інтарэс быў у іх практычным прымяненні. Але паступова, на працягу 100 гадоў, гэты інструментальны погляд саступіў месца значна глыбейшаму тэарэтычнаму разуменню цяпла і тэрмадынамікі. Гэтыя тлумачэнні ў рэшце рэшт знайшлі шлях амаль да кожнай сучаснай галіны навукі, у тым ліку квантавай тэорыі. Інструмент даў нам цеплавыя рухавікі; тлумачэнні даў нам сучасны свет. Гэтая розніца сапраўды захапляльная.

AI будзе прытрымлівацца таго ж прагрэсу, ад гэтых першых практычных прыкладанняў да глыбокага тэарэтычнага разумення стварэння ведаў. Я спадзяюся, што гэта не зойме 100 гадоў. Але калі гэта адбудзецца, наступны моцны ІІ. Непазбежна.

Дзякуй за чытанне! Калі вам гэта спадабалася, калі ласка, націсніце апладысменты, каб іншыя знайшлі яго. Я час ад часу вяду блог пра стартапы, ахову здароўя і ІІІ, калі вы хочаце сачыць за мной і пра нашу стартап-падарожжа. Вы таксама можаце звязацца са мной у Twitter і LinkedIn, каб падзяліцца ідэямі альбо пакінуць каментар ніжэй.

Картрайт, Н. (1983). Як законы фізікі ляжаць. Clarendon Press.

Deutsch, D. (1998). Тканіна рэчаіснасці. Пінгвін.

Хол, Б. (2017). Індукцыя. http://www.bretthall.org/blog/induction

Маркус Г. (2018). Глыбокае навучанне: крытычная ацэнка https://arxiv.org/abs/1801.00631

Маркус Г. (2018). У абарону скептыцызму наконт глыбокага навучання. https://medium.com/@GaryMarcus/in-defense-of-skepticism-about-deep-learning-6e8bfd5ae0f1

Meehan, EJ (1968). Тлумачэнне ў сацыяльнай навуцы; сістэмная парадыгма. Дорсі Прэс

Pearl, J. & Mackenzie, D. (2018). Кніга чаму: новая навука пра прычыну і следства. Асноўныя кнігі

Piękniewski, F. (2018). ІІ зіма добра на сваім шляху. https://blog.piekniewski.info/2018/05/28/ai-winter-is-well-on-its-way/

Ribeiro, MT, Singh, S. & Guestrin, C. (2016). "Чаму я вам давяраю?": Тлумачэнне прагнозаў любога класіфікатара https://arxiv.org/abs/1602.04938

Ласось, туалет (1967). Асновы навуковага высновы. Універсітэт Пітсбурга.

Шмуэлі, Г. (2010). Каб растлумачыць альбо прадказаць? Статыстычная навука, 25 (3), 289–310. https://projecteuclid.org/euclid.ss/1294167961