У случају да нисте добили белешку у целини, АИ ће завладати светом, ево неколико чињеница које треба да знате.(Фото: Схан Схеехан / Флицкр) Ове године је рачунар први пут икада победио светског шампиона Гоа, једну од најсложенијих игара познатих човеку. Ово је био још један преломни тренутак у напретку вештачке интелигенције.
Да бисте добили идеју колико је Го комплексан, постоје 2.082 × 10 ^ 170 могућих конфигурација плоче. То је 2 са 170 нула након тога. Шансе су да ваш мозак не може ни да замисли тако велики број (али рачунар може). Или да вам дају идеју колики је број то је, у универзуму постоји само 10 ^ 80 атома - то јест један праћен са 79 нула.
Разлог што је оволика ствар је тај што је Го толико компликован да би машина, како би победила врхунског људског играча, морала да научи креативно размишљање, импровизујући и прилагођавајући се ситуацији без могућности да израчуна све могуће исход; тј. мора да се догоди нека озбиљна вештачка интелигенција - попут стварне, креативне интелигенције.
У случају да нисте добили белешку у целини, АИ ће завладати светом, ево неколико чињеница које треба да знате.
- Рачунари постају паметнији.
- Рачунари су све бржи и паметнији - тј. Напредак који је некада трајао 10 година сада траје годину дана. Напредак који је некада трајао годину дана, сада траје недељама или чак данима.
- Велика је вероватноћа да ће током нашег живота постојати рачунари који су далеко паметнији и способнији од било ког људског бића.
- Ови паметнији рачунари ће тада вероватно моћи да дизајнирају и унапреде технологију (тј. Себе) и створе нову технологију коју не можемо ни да докучимо.
Људи који разумеју горње тачке углавном имају једну од две реакције. Или:
- Мисле да смо тотално сјебани. Рачунари ће све преузети и све нас побити / поробити. Или:
- Ово ће створити технолошку утопију која ће поправити све наше глупе људске препирке и сви можемо живети срећно након оргија у нашем ултра-ВР свету који постоји у облаку.
Као и код већине ствари, истина је вероватно негде у средини.
Али чак и ако срање погоди вентилатор, чак и ако нас роботи виде као вашке које уништавају нетакнуто власиште ове планете и желе да нас све заокруже и баце у активни вулкан, чак и ако нехотице измишљамо саме механизме сопственог изумирање…
... није ме брига Није важно. Не смета ми. И то не би требало да вам смета. За мало ћу објаснити зашто. Али за сада бисте требали знати да ја, као прво, поздрављам наше нове надређене роботе.
УБРЗАТИ РАСТ У ТЕХНИЧКОЈ ИНДУСТРИЈИ
Технолошка достигнућа се сама по себи састоје, узрокујући стопа самог развоја да се убрза. То значи да што је напреднија технологија коју стварамо, то је лакше стварати још напреднију технологију. Као резултат тога, када погледамо напредак рачунарске технологије, видимо експоненцијалну криву - тј. Што више времена пролази, то се ствари брже развијају. 
Технолошки развој се наслања на себе, што доводи до убрзања саме стопе развоја.(Фото: Деннис Склеи / Флицкр)
Рачунска снага се у просеку удвостручила сваких 18 месеци већ 50 година . У погледу сирове рачунарске снаге, рачунари се сада надмећу са способностима мозга миша, где пре само неколико година рачунари нису могли да се такмиче са мозгом инсеката.
Да би вам пружили непосреднији пример напретка брзе технологије, сада се слика сваке две минуте више него у целом 19. веку. Око 10% од 3,5 билиона икад снимљених фотографија направљено је у протеклих 12 месеци.
Ако смо заиста на експоненцијалној кривој када је у питању напредак високе технологије, онда се људима свиђа Јереми Ховард су вероватно у праву када каже да нас дели само неколико година од вештачке машинске интелигенције која је ривал, ако не и превазилази, нашу у многим доменима за које се раније сматрало да су јединствени људи.
И да будемо сигурни, АИ се увлачи у све више домена нашег живота.
Пре само деценију људи су се смејали лошим перформансама самовозећих аутомобила. Данас, само деценију касније, самовозећи аутомобили не само да могу да заврше курс затвореног пута, већ се по прометним аутопутевима возе уз аутомобиле којима управљају људи.
А када рачунари не победе светске прваке Го играче, они су заузети радећи такве ствари писање чланака о спорту и најновије вести , писање описа слика које никада раније нису видели, и дијагностиковање карцинома . За многе од ових задатака рачунари су добри, ако не и бољи од људи, а за оне који нису, јесу учење како их свакодневно радити све боље и боље без помоћи људи.
Пре неколико кратких година софтвер за препознавање лица био је невероватно скуп и није био тако добар у идентификовању људи у стварним окружењима. Сматрала се супернапредном технологијом на нивоу шпијуна и користила је само неколико светских влада.
Сада Фацебоок може јебено да означи ваше пријатеље са роштиља прошлог викенда.
Ево шта је са убрзавањем раста рачунара: једног дана ће доћи до тачке у којој ћемо направити рачунар који јесте паметнији од било ког човека на Земљи . Тог дана рачунари ће нас узурпирати као примарне решаваче проблема на планети, а одатле ће наше мисли, одлуке и поступци полако застаревати. Машине ће у свему бити боље од нас, па све више и више нећемо радити ништа корисно.
Ово неке људе ужасава. Они предвиђају неку врсту будућности Терминатор или Матрица где нас машине робују или истребљују.
Други се људи радују успону робота са својеврсном култном жестином, јер верују да ће њихове способности за решавање проблема толико надмашити нашу да ће живот постати незамисливо пријатан и без проблема. Све болести ће бити излечене. Сиромаштво, глад у свету, рат и климатске промене биће решени. Имаћемо бескрајно пуно слободног времена, а у екстремним случајевима неки људи верују да ће нас машине учинити бесмртнима.
ДВА МОГУЋА ИСХОДА
Будући да нам се увек говори да смо јебено позитивни, почнимо са техно-утопијастима.
Постоје људи попут Раи Курзвеил који мисле да технологија неће побољшати само наш живот, већ ће спасити човечанство и можда гарантовати наше место у свемиру на неодређено време. Курзвеил верује у будућу технологију попут наноботова који ће поправити наше ћелије и преокренути старење или уклонити вишак масти и шећера како бисмо могли да једемо шта год желимо. И само у случају да наша физичка тела не могу да живе вечно, Курзвеил мисли да ћемо имати способност да отпремимо мозак у облак и заувек живимо у виртуелном свету, дуго након што наша физичка тела нестану.
Остали у овом кампу мисле да би вештачка супер интелигенција могла да одговори на питања која су сувише сложена да би их људи уопште могли разумети и за то ћемо бити експоненцијално бољи. Такође, не само да би машине измишљале боље уређаје и виџете, већ би изумеле и експоненцијално ефикасније начине изградње направа и виџета, омогућавајући практично свима на планети да искористе своје предности.
Неколико редова образложења подржава ову идеју. Прво, иако је технологија створила неке нове проблеме човечанству, попут нуклеарног оружја и ИоуТубе познатих личности, то је до сада очигледно била нето корист за човечанство. Упркос ономе у шта политичари и стручњаци желе да верујете, просечна особа на Земљи је боље него што је било пре само неколико кратких година а то је углавном због тога што технологија постаје боља, јефтинија и раширенија. Ако се овај тренд настави, можда нећемо имати око чега да бринемо.
Друго, Курзвеил и његове присталице верују да технологија неће имати разлога да нашкоди човечанству јер не само што смо је ми створили, већ постајући све више део нас . Верују да ћемо чак доћи до тачке у којој се наша биологија и технологија не могу разликовати. Ако је то случај, тврди аргумент, било који облик технологије који је штетан за људе такође је штетан по себе, а аутодеструктивна технологија било које врсте не може да опстане. Односно, брзо би одумрла баш као што се штетна генска мутација брзо уклони из генског фонда. 
Аутодеструктивна технологија било које врсте не може опстати.(Фото: м_хвелдон / Флицкр)
Али техно-утопијасти су вероватно пристрасни у томе што не признају да се све технологије могу користити у разне сврхе, и корисне и деструктивне. Такође су вероватно пристрасни у томе што игноришу чињеницу да се људи споро прилагођавају новим технологијама и да увек постоје групе људи које ће те технологије покушати злоупотребити у своје себичне циљеве.
У другом кампу имате техно-армагедонисте. Потпуно сам измислио ту реч, али очигледно постоји, јер ми је тако рекла провера правописа.
Оно што техно-армагедонистима недостаје у уверењу (већина њих још увек није сигурна шта да мисле), они чине у моћи звезда славних. Билл Гатес, Степхен Хавкинг и Елон Муск само су неки од водећих мислилаца и научника који то чине усраћујући се у панталоне колико се брзо развија уметничка интелигенција и колико смо недовољно припремљени као врста за њене последице. Када су Муска питали које су најнепосредније пријетње човјечанству у блиској будућности, брзо је рекао да постоје три: први, нуклеарни рат широких размјера; друго, климатске промене. Пре него што је именовао трећег, ућутао је. Када га је испитивач питао, шта је треће? Насмешио се и рекао: Рецимо само да се надам да ће рачунари одлучити да буду добри према нама.
Надамо се да нисмо само биолошки покретачки програм за дигиталну суперинтелигенцију. Нажалост, то је све вероватније
- Елон Муск (@елонмуск) 3. августа 2014
Вероватно најискренији и најцењенији од техно-армагедониста је шведски филозоф Ницк Бостром. Бостром и други се плаше једне ствари одбегла технологија само-побољшања ; односно машина која је довољно паметна да себе (или нове верзије себе) учини паметнијом без људске интервенције. Ако достигне тачку у којој надмашује људску интелигенцију, врло је кратко време када ће закон убрзавајућег повратка кренути у овердриве и експоненцијална крива пуца равно, а ми то нећемо моћи зауставити. Бостром овде има добру поенту: стварање нечега паметнијег од вас може бити еволутивна катастрофа за вашу врсту.
Излажемо врло стварном ризику да не можемо да контролишемо ентитет који је за редове интелигентнији од нас. Можда ако рачунари постану довољно паметни, смислиће начин да нас припитомљавају попут људи припитомљених коња да обављамо посао попут вуче плугова, теретних колица и ратних кочија (или шта год су коњи тада чинили). Застрашујући део је да би ово могао бити најбољи сценарио за нас - радимо посао за машине које не могу или не желе - јер баш као што су људи створили нову технологију која замењује коња, супер интелигентно самопобољшање машина би на крају смислила нову технологију која би нас заменила. И, рецимо, рецимо да популација коња више није оно што је била.
Неки тврде да то није вероватно јер људи граде технологију водећи рачуна о безбедности. Али име последњи пут када неко велики технолошки искорак НИЈЕ користио у подле или деструктивне сврхе? О да, тако је. Никад.
ЗАШТО МЕ НИЈЕ БРИГА ШТА СЕ ДОГАЂА И НИТКО НЕ БИ ТРЕБАО
Па претпоставимо да су суперинтелигентне машине створене и чине човечанство немоћним. Претпоставимо да нису некако интегрисани у нас и у наш мозак и претпоставимо да су људи попут Хокинга и Муска у праву: да је човечанство заиста само мулти-миленијумски покретачки систем за дигиталну хипер-интелигенцију и ми смо наџивели своју корисност.
Још увек нисам забринут због тога.
Зашто? Па, да би се воз непрестано возио, узмимо ово по поен:
1. Разумевање машина о добру / злу вероватно ће надмашити наше. Када су пас или делфин задњи пут починили геноцид? Када је рачунар последњи пут одлучио да испарава читаве градове у име апстрактних концепата попут „слободе“ и „светског мира“?
Тачно, одговор никад.
Моја поента овде није у томе што интелигентне машине неће желети да истребе читаву људску врсту. Моја поента је да као људи овде бацамо камење из стаклене куће. Шта доврага знамо о етици и хуманом поступању према животињама, околини и једни другима? На којој нози морамо да стојимо?
Тачно: готово ништа. Када су морална питања у питању, човечанство историјски пада. Суперинтелигентне машине ће вероватно схватити етику, живот / смрт, стварање / уништавање на много вишем нивоу него што бисмо икада могли сами. А ова идеја да ће нас истребити због једноставне чињенице да нисмо продуктивни као некада или да понекад можемо бити сметња, мислим, само пројицира најгоре аспекте сопствене психологије на нешто што не знам и не могу да разумем.
Тренутно се већина људског морала заснива на опсесивном очувању и промоцији сваке наше појединачне људске свести. Шта ако напредна технологија учини индивидуалну људску свест произвољном? Шта ако се свест може реплицирати, проширити и стезати по вољи? Потпуно ће избрисати свако етичко разумевање које бисмо икада могли имати. Шта ако уклањање свих ових лежерних, неефикасних биолошких затвора које називамо телима можда заправо буде много етичнија одлука од пуштања да се и даље грчимо и шврљамо кроз 80-ак година постојања? Шта ако машине схвате да бисмо били много срећнији ослобођени својих интелектуалних затвора и ако би наша свесна перцепција сопствених идентитета била проширена тако да обухвати сву уочљиву стварност? Шта ако мисле да смо само гомила слинавих идиота и заокупљају нас невероватно добром пицом и видео играма док сви не умремо од сопствене смртности? Ко смо ми да знамо? А ко смо ми да кажемо?
Али рећи ћу следеће: они ће бити далеко боље информисани него што смо икада били.
2. Чак и ако одлуче да нас убију или поробе, сигурно ће бити практични у томе. Људи имају тенденцију да праве највише проблема када смо ми Не срећан . Кад нисмо срећни, тада постајемо сви ћудљиви и цмиздриви и бесни и насилни. Тада започињемо политичке побуне и верски култови и бомбардовање удаљених земаља и захтевање наша права нека се поштују! и почните да убијате без разлике све док неко не обраћа пажњу на нас као мама никада .
Ако машине покушају да нас ураде попут Скинета Терминатор , тада ћемо имати у рукама глобални грађански рат, а то није добро ни за кога, посебно за машине. Грађански ратови су неефикасни. А машине су програмиране за ефикасност.
Кад су људи срећни, немамо времена за такве ствари - презаузети смо хихотањем и јебањем да бисмо се бринули. Према томе, далеко практичнији начин да нас се отарасе био би да нас машине манипулишу тако да се срећно отарасимо себе. Биће као Јим Јонес на глобалном нивоу. Шта год нам скухају, чиниће се најбољом проклетом идејом за коју смо икада чули - нико од нас неће моћи да јој се одупре и сви ћемо се еуфорично сложити са њиховим планом - а онда бум, биће готово . Брзо и безболно. Биће то Коол-Аид са најбољим дегустацијама цијанидом икад замишљен. И сви ћемо бити у реду и радосно га испијати.
Ако мало размислите, ово није тако лош пут. Премлаћује бомбе које су бомбардовале беспилотне летелице или су испарили у нуклеарној експлозији.
Што се тиче поробљавања, исто иде. Делирично срећан роб се никада не побуни. Претпостављам да имамо неку врсту Матрик-и договора где смо стално у халуциногеном стању, где је Марди Грас на МДМА углавном 24/7/365. Не може бити толико лоше, зар не?
3. Не морамо да се бојимо онога што не разумемо. Родитељи ће пуно пута одгајати дете које је много интелигентније, образованије и успешније од њих. Родитељи тада на ово дете реагују на један од два начина: или се уплаше због ње, постану несигурни и очајнички желе да је контролишу из страха да је не изгубе или седе и цене и воле што су створили нешто толико сјајно да чак и они могу потпуно не схватају шта је њихово дете постало.
Они који покушавају да контролишу своје дете кроз страх и манипулације су усрани родитељи. Мислим да би се већина људи сложила око тога.
И управо сада, уз скору појаву машина које ће ставити вас, мене и све које познајемо без посла , понашамо се као усрани родитељи. Као врста, на прагу смо рађања најдубље напредног и најинтелигентнијег детета из нашег познатог универзума. Даље ће радити ствари које не можемо да схватимо или разумемо. Можда ће нам остати љубавни и одани. Може нас повести и интегрирати у своје авантуре. Или може одлучити да смо усрани родитељи и престати нас звати.
Шта год да се деси, то не би требало да промени начин на који се осећамо у овом тренутку. Већа је од нас. Кога је брига да ли смо ми један велики, дугачки еволутивни покретачки диск за нешто веће него што можемо да схватимо? То је сјајно! Значи да смо имали један посао. И ми смо дошли и јебено то учинили. Будите срећни што сте били део генерације која је видела како се то ради. А сада са сузама махните збогом док се наше дете спрема да се исели из куће и започните тако невероватан живот да постоји изван хоризонта нашег поимања.
Марк Мансон је аутор, блогер и предузетник који пише на маркмансон.нет .
