На k; што! Но, к; роботите исто така можат да f; изберете APuZ
Кога би посакале интелигентна машина, што би било тоа?
Теа Дорн - Сакам да работам со главата и срцето, па затоа сметам дека е прекрасно што уредите прават работи во домаќинството, за кои би ги мелел само забите. Но, никогаш не ми паднало на памет да ја наречам машината за перење интелигентна.
Раул Рохас - Сакам технологија што не ми пречи постојано и не ме заклучува на компјутерот - како што прават е-поштата, на пример. Немам мобилен телефон, ова е мојот излез. Сакам да го користам мојот мозок за нешто друго. Значи, развивам автономни возила што можат да се користат како такси.
Зар не сме им милост и немилост?
Рохас - не Напротив. Сакам да го претворам автомобилот во форма на јавен превоз. Имаме 1,3 милиони возила во Берлин, плус автобуси и метро. Наместо автомобили, би сакал да имам само 100.000 автономни возила: заеднички такси. Тие собирале луѓе на улица и ги носеле до метро, автобус или друга дестинација. Возете заедно, ги споделувате трошоците. Тоа го олеснува сообраќајот. Нема да има повеќе ленти за паркирање, а велосипедите ќе ја добиеа лентата што стана бесплатна. Wouldе имаше помалку несреќи. И би било толку погодно! Повеќе не треба да се возам сам, можам да влезам во такси, да читам, да работам. Тоа би била мојата „автопија“ за градот.
мандре - Без приговор на оваа визија! На крајот на краиштата, не ми е гајле дали возач е зад воланот или дали автомобилот вози сам. Но, засега ние сме сеуште сами зад воланот - и постојано се покровители. Ме полудува кога мојот автомобил се обидува да ми каже со хистеричен сигнал како да паркирам или кога да направам пауза. А, системите за навигација се најчисти од машините за ориентација. Ако е можно, ќе го исклучам сето тоа.
Рохас - И јас немам систем за навигација. Но, сериозно: Држам многу предавања за автономни возила и најчеста реакција е: Не сакам некој да ми го земе управувачот! Јас одговарам: Богатите имаат возач и не се грижат за деталите. Зарем сите не сакаме да бидеме богати? Тогаш веќе не ме интересира да возам. Го читав мојот весник, мојата книга, сè додека возачот не рече: Стигнавме.
мандре - И ова: убава визија! Само се плашам дека луѓето нема да го искористат заштеденото време да го читаат Аристотел или барем да читаат весник. Evenе играат уште повеќе со своите уреди. Но, се разбира, вистина е дека - особено во големите градови - треба многу да се подобри сообраќајот. Секој што е пеш или со велосипед во Берлин мрази сообраќај со автомобили.
Но?
мандре - Загрижен сум за брзината со која делегираме на одлуките за технологија што порано требаше да ги донесуваме самите себе или за вештини што требаше сами да ги стекнеме: Развие чувство за тоа дали сум се движел доволно денес? Нема потреба, ми вели здравствената апликација. Планирање на залихи? Нема потреба, фрижидерот знае кога да додаде ново млеко. Научете странски јазици? Зошто, постојат програми за превод.
Господине Рохас, сакате технологија што прави работи за вас и ја одржува работата далеку од вас. Па, да замислиме домаќинство кое мие алишта само по себе, дали храната ...
Рохас - Не не Не сакам роботи за домаќинства. Мојот личен спорт е косење трева, собирање лисја и перење алишта. Не треба да ги ослободувате луѓето од сè во домаќинството затоа што тие ќе престанат да се движат и ќе се дебелеат. Како во филмот „ALLИД-Е“. Дали знаеш дека?
мандре - Само приколката.
Рохас - Луѓето седат на пловечки кауч со екранот пред носот и роботите ја носат храната. Таквата иднина би била сурова. Затоа, некои машини што можат да бидат изградени не треба да се градат од социјални причини. Роботи за грижа за болници, на пример, кои го минимизираат контактот помеѓу болните и другите луѓе.
мандре - Се работи масовно на нивниот развој. Од една страна, ова е разбирливо: Постои недостаток на медицински сестри, па зошто да не користите роботи за помош? Од друга страна, со секое технолошко решение за социјален проблем, нашата социјална креативност ќе продолжи да опаѓа. Во суштина, ми се чини дека станува збор за: Како да ги пополниме слободните простори што ни ги дава новата технологија? Дали одиме кон Атина 4.0, во која секој може да филозофира и да се занимава со спорт од утро до вечер, затоа што пријателските роботи-робови им ја прават целата мачна работа? Или завршуваме како што сугерира „ALLИД-Е“: дебели, мрзливи и глупави?
Рохас - Тоа е дилемата. Како и да е, класичната антика не е мој пример, бидејќи само мажите беа слободни, додека жените и робовите ја вршеа работата. Мислам повеќе на утопистичките социјалисти.
мандре - Троцки би бил голем поборник за технологијата денес бидејќи би се надевал дека тоа ќе им даде на луѓето слобода да се образуваат.
Рохас - Големото прашање со раните социјалисти беше кој работи на пониски работи. Вашиот одговор: машини. Фридрих Енгелс уште кога бил мал напишал: Рековте дека ни треба пониска класа што ги чисти тоалетите, но сега има автоматски тоалет што се испушта! За него, ова докажа дека човештвото во иднината ќе биде ослободено од овие подли работни места - социјалистичката утопија од 19 век. Сега имаме многу повеќе машини отколку што сонувале Маркс и Енгелс, но немаме голема иднина со слободните луѓе. Човек може скоро да очајува.
мандре - добро Мислам дека луѓето имаат само две опции: Или ќе продолжат да се оставуваат на фактот дека покрај сите одлични работи што можат да ги направат, тие се и ограничени недостатоци: понекогаш тажни, понекогаш болни и на крајот има смрт. Или, тој сака да го остави сето ова засекогаш и да биде вечно фит, секогаш расположен и на крајот исто така бесмртен. Нашата окцидентална, хуманистички обликувана слика за човекот ќе биде на крајот. Се сомневам дека во Силиконската долина би добил смешна смеа ако таму кажам дека сметам дека понатамошното оптимизирање на луѓето во машински стил е крај на нашата автономија и достоинство. Најсмелите таму сонуваат да ги постават своите мозоци на облакот, каде што може да се спои со светското знаење: тотално распуштање на границите. На мојот јазик: крај на личноста, карактерот, индивидуата.
Рохас - Сите овие се фантазии, сите се глупости.
мандре - Уверен сум кога ќе го кажеш тоа.
Како нормален читател, од каде знам дека ова е глупост?
Рохас - Тешко е да се открие. Реј Курцвејл, мозокот на трансхуманизмот, пред неколку децении тврдеше дека луѓето ќе бидат заменети со машини, дека во одреден момент ќе има само машинска интелигенција. Тој вели дека до 2030 година компјутерите ќе имаат толку транзистори колку што луѓето имаат неврони, така што машините автоматски ќе бидат попаметни. Ова е глупост и е дрско. Повторно и повторно забележуваме колку сме далеку од разбирање на мозокот и когницијата. Секој што верува дека машините можат да бидат токму како луѓето, не успева да препознае дека сме тело и ум.
мандре - Курцвејл е толку доследен што телото е досаден додаток на умот.
Рохас - Ако можеше да ги зачува сите свои информации на тврд диск, брзо ќе откриеше дека нема да биде ист без неговото тело.
мандре - Како што реков: Се надевам дека си во право и „единственоста“ за која сонува Курцвејл никогаш нема да постои. Сепак, не мислам дека треба да се тргнат од сите транс- и постхуманистички визии ...
Рохас - Но. (се смее)
мандре - ... затоа што тие се соочуваат со исчезнувачката точка на нашата технолошка цивилизациска историја. Тие нè принудуваат да се запрашаме: Дали навистина сакаме да ставиме крај на патот што толку радикално го избравме?
Рохас - Градењето роботи е како волшебник и луѓето се залажуваат. Пример: ако дозволите мали роботи да туркаат коцки по случаен избор, во одреден момент ќе се формира куп на средина на арената. Случајно е, но луѓето мислат: Ах! Роботите заедно градат кула. Вие сте интелигентни!
мандре - Зарем тоа не е затоа што луѓето отсекогаш сонувале да создадат суштества што бесконечно ги надминуваат - во однос на здравјето, долговечноста, убавината, силата, интелигенцијата? Пигмалион и идеална жена, еврејска митологија и Голем, Ниче и супермен. Затоа, не сум изненаден од овој ентузијазам. Но, ја споделувам вашата проценка дека сè уште имаме работа со прилично ефтина магија на штандот, барем во моментот. Пред некој ден бев на прием и мал бел робот шеташе, ги поздравуваше гостите и можев - претежно - да кажам дали е тоа маж или жена. Ако мислеше дека виде дама, имаше роза.
Рохас - Ова е популарно глупаво. Знам каква е состојбата во уметноста. Сите готвиме само со вода. Луѓето кои ги градат овие роботи се однесуваат како робот навистина разбира многу. Наместо да ги објаснуваат границите и проблемите на технологијата, тие претерано претеруваат со цел да добијат инвеститори или нови пари за истражување.
мандре - Дали верувате дека овие вештачки интелигенции еден ден можат да развијат нешто како емоции?
Рохас - Не Тоа е апсолутно незамисливо. Работам на тоа 35 години. Постојат одредени скромни вештини што се обидуваме да ги научиме на компјутерите. Но: препознавањето на говорот сè уште не е големо. Постојат неколку корисни работи како препознавање на лице на аеродром или системи за превод. Последните работат затоа што сега има толку многу книги на германски и англиски јазик што компјутерот може автоматски да ја научи преписката помеѓу двата јазика.
Ова се нарекува длабоко учење - луѓето ги обучуваат програмите со големи количини на податоци.
Рохас - Да Сепак, работи само во одредена мерка. Му покажувам на компјутерот милиони слики од мачки. Тогаш во одреден момент ќе знае што е мачка. Но, кога ќе го прашам зошто? Тој не може да го објасни тоа.
Од каде овие податоци?
Рохас - Од сите нас.
мандре - Секој ден.
Рохас - Ако поставувате слики на Инстаграм, податоците завршуваат на Фејсбук. Ова им овозможува да ги подобрат своите програми за препознавање лице. Или програми за препознавање мачки. Ние ги генерираме овие податоци - доброволно и бесплатно за Google и Facebook.
Гугл АИ неодамна ги нарече црните луѓе горили. Друга ВИ ги поврза кујната и жените. Системите не учат на неутрален начин?
Рохас - Не Со длабоко учење има само обрасци. И тоа резултира со одлука. Ако жената треба да се види во 90 проценти од рекламите во кујната, тогаш е јасно од каде доаѓа тоа. Големите податоци ги содржат сите наши вредности, противречности и предрасуди.
мандре - Слушнав дека еден од овие таканаречени автономни системи на воено поле, што тенковите добро ги препознаа, одеднаш пропадна. Никој не знаеше зошто. Тогаш беше откриено дека поголемиот дел од сликите користени за обука на системот покажаа тенкови под синото небо. Сега небото беше облачно и системот беше во загуба.
Рохас - За жал, ова е бајка, таков систем никогаш не бил користен. Сериозен пример е несреќата во Тесла, бидејќи беше вклучен вистински, комерцијален систем. Тогаш бел камион го блокираше автопатот. Камерата на автомобилот не можеше да ги разликува облаците на небото од камионот; тој не кочеше.
мандре - Ништо не може да го замени човечкиот суд. Луѓето се способни да измерат и да донесат пресуда, да се расправаат и да ја оправдаат својата одлука. Може ли тоа да биде една од разликите помеѓу вештачката интелигенција и нас?
Рохас - Да Всушност, машините немаат длабока проценка. Пред сè, тие немаат интуиција, такт.
мандре - Има многу повеќе од тоа: вештачката интелигенција нема чувства на срам или вина, нема сожалување, нема совест. Прашањето што често се поставува на вашето подрачје за истражување е: Кој е одговорен ако самовозечки автомобил одлучи во несигурна ситуација да ги прегази пензионираните двојки, наместо мајката и детето? Зарем навистина не треба да прашуваме што значи кога стотици илјади возила наскоро се наоѓаат на нашите патишта на кои едноставно не им е грижа дали ќе прегазат некого?
Рохас - Постојано го слушам ова прашање: Кој е одговорен? Секако луѓето што го градат системот! Мој предлог е да работите толку добро однапред, што не можат да се појават такви ситуации. Минимално растојание, намалена брзина, лесни градежни материјали - ако го земеме предвид сето ова, се надеваме дека можеме да изградиме системи на возила што не предизвикуваат сериозни судири и на крајот се побезбедни од денешните автомобили.
Дали АИ треба да се регулира на меѓународно ниво?
мандре - Човештвото ја основаше Меѓународната агенција за атомска енергија кога сфатија каква опасна и потенцијално опасна земја спуштија со нуклеарна енергија. Веројатно е време да размислиме дали не ни треба споредлив објект за да внимаваме на развојот и употребата на ВИ.
Рохас - Јас секогаш сум за регулирање, на пример, генетски инженеринг и оружје. Само во овој посебен случај не гледам веднаш како можат да се регулираат интелигентни алгоритми. Треба внимателно да размислите за тоа - решението не е баш тривијално.
И навистина не треба да се грижиме, господине Рохас, дека роботите еден ден ќе бидат попаметни од луѓето или еден ден ќе се еманципираат од нас?
Рохас - Дефинитивно не во овој век! Во принцип, не мислам дека роботите ќе преземат контрола над нас во одреден момент. Конрад Зусе, првиот производител на компјутери во Германија, еднаш рече: Ако компјутерите станат премногу дрски, повлечете го приклучокот.
Интервјуто прво се појави во „Хризмон“.
Модерација: Мареике Фалет и Мајкл Гитлин, хризмон 12/2017, www.chrismon.de
Овој текст е објавен под лиценцата на Криејтив комонс „CC BY-NC-ND 3.0 DE - Наведи извор - Некомерцијално - Без деривативни дела 3.0 Германија“. Автори: Теа Дорн, Раул Рохас за Од политика и современа историја/bpb.de
Дозволено е да го споделувате текстот со именување на лиценцата CC BY-NC-ND 3.0 DE и авторите.
Информациите за авторските права за слики/графики/видеа може да се најдат директно со сликите.
Теа Дорн, Раул Рохас
Теа Дорн
е писател и филозоф. Нејзиниот роман „Умреј Унгликеселиген“ (Кнаус) зборува за укинување на смртноста. Предметот вештачка интелигенција ја засега: На годинешниот состанок на Германскиот етички совет на тема „Автономни системи“, таа го истражуваше прашањето како овие машини ја менуваат нашата слика за себе.
Раул Рохас
е математичар и професор по компјутерски науки на Слободниот универзитет во Берлин. Тој е на чело на Далемскиот центар за машинско учење и роботика и стана познат по роботите кои играат фудбал, со кој тој и неговиот тим освоија многу шампионски титули. Во моментов работи на автономни возила, прототипот е наречен „AutoNOMOS“. Неговата докторска теза во тоа време имаше сосема друга тема: Карл Маркс.