Како можеме разумно да ги користиме алгоритмите? Јерг Дрогер, член на Извршниот одбор на Фондацијата Бертелсман,
Извршниот одбор на Фондацијата Бертелсман не верува во дебата што предизвикува страв за последиците од дигитализацијата. Во интервју за Торалф Кливен, 51-годишникот опишува како дигиталните промени можат да го модернизираат нашето општество и да го направат поправедно - ако разумно ги користиме алгоритмите.
Кога одам до автомобилот после работа, мојот паметен телефон редовно известува и без да ме праша со времето пресметано за патот до дома и алтернативните правци, во зависност од состојбата во сообраќајот. Практично е, но и некако застрашувачко, нели?
Ваквите поддржувачи се застрашувачки се додека не прават да се чувствуваме како да сме надвор од контрола. За мене, оваа порака се појавува откако ќе станам - со време до канцеларија или состанок. Но, знам какви податоци користи оваа апликација и - што е многу важно - како можам да ја запрам. Сите ја имаме таа моќ. Од друга страна, никогаш не би ни паднало на ум да се сомневаме во тоа како работат алгоритмите, ако одеднаш треба да зачекориме во сопирачките за време на возењето, а системот за спречување на сопирање ABS да ни помогне да останеме на вистинскиот пат. Но, ова е исто така резултат на анализата на алгоритамските податоци.
Значи, станува сè поважно за секој од нас да биде свесен кога и како дејствува алгоритам со нас?
Да Пред сè, мора да бидеме свесни за социјалните последици. Навигациски уред во автомобилот, на пример, го одредува моето време на возење, а со тоа и целиот животен век со насоката за правецот, но исто така и преку евентуално оптимизираните емисии на CO2 и брзината на климата или бучавата.
Дали сè уште има области од животот во кои податоците не играат улога?
Насамо, да, барем се додека ги исклучуваме. Инаку? Во САД, судиите користат алгоритми за да утврдат степен на казна, тие станаа неопходен дел од изборот на персонал, па дури и местата во основните училишта - на пример во Берлин - сега се доделени на овој начин. Значи, алгоритмите веќе одамна престанаа да ги одредуваат техничките области како што е само АБС, но сега играат одлучувачка улога во животот на секоја индивидуа. Затоа е важно помалку да се зборува за краткорочните ефекти од користењето на вештачката интелигенција и повеќе за долгорочните ефекти. Тие се исклучително формативни за идното општество.
Дали всушност повеќе сакате да зборувате за алгоритми, вештачка интелигенција или интелигентни машини?
Алгоритмот звучи многу технички и повеќе претставува пречка за спречување. Вештачката интелигенција дава впечаток дека ние луѓето сме заменети. Од моја гледна точка, точниот израз е „проширена интелигенција“. Може само да ги прошири нашите вештини и да ни помогне, да преземеме многу специфични задачи, како што е анализа на огромни количини на податоци.
Зошто бевме помалку загрижени за употребата на податоци во минатото - клучен збор ABS - и сега развивме вистински страв?
Вештачката интелигенција честопати се поврзува со терминаторот или матрицата од филмовите. А, политичката дебата најмногу се врти околу тоа колку работни места ќе бидат уништени. Двете се негативни и доведуваат до реакции во одбрана. Би било подобро ако разговараме за тоа како можеме да ги подобриме нашите човечки способности со помош на машини. Затоа што за тоа се работи. Социјалната придобивка треба да биде во преден план. Зошто не прашуваме како можеме да изградиме подобро општество со подобрена интелигенција?
Можеби затоа што нивните работни места се важни за многумина? Кои би биле вашите столбови во една ваква дебата?
Се разбира, работните места се многу важни. Затоа е толку важно да се одлучи денес како сакаме да живееме и да работиме утре. Кога се користат мудро, алгоритмите нудат опции за поголема правда и глобална правичност, подобар пристап до образование или работни места отколку што имаме или можеме денес.
Што сакаш да кажеш конкретно?
Користејќи технологија во процесите на апликација, веќе можам да осигурам дека повеќе жени ќе добијат шанса на раководни позиции. Исто така, можам да овозможам помала дискриминација по потекло во правните постапки. Значи, на човековата проценка е како и за што ќе градиме и користиме алгоритми. Станува збор за контрола и транспарентност на постапките. Алгоритмот честопати држи огледало за тоа како се однесуваме. Може да го зајакне нашето неправедно однесување, но луѓето исто така можат да го свртат прекинувачот со него.
Економијата е надвор за ефикасност. Зарем тоа не е во спротивност со социјалните интереси, како што е учеството на сите луѓе - без оглед дали се физички хендикепирани или хронично болни или потекнуваат од сиромашно семејство?
Мислам дека е повредно да се направи општеството 20 проценти поправедно од производството на автомобили 20 проценти поефикасно. Пример: Во САД, центар за повици користеше алгоритми за наоѓање на вработени од апликанти кои би останале долго време без да се откажат од цигарите. Работеше одлично. Сепак, беше забележано дека луѓето од проблематичните области воопшто не добиваат работа, па затоа беа едноставно дискриминирани. Затоа, компанијата одлучи да го занемари алгоритмот во овој момент, така што тој повеќе не прави дискриминација. Приоритет беше: правичност над ефикасноста.
Сепак, алгоритмите не можат да спречат подоцнежна дискриминација во секојдневниот живот или на работа врз основа на бојата на кожата или потеклото.
Не, чувствителноста на проблемите мора да биде пред нивното алгоритамско решение. Тогаш луѓето добиваат можности кои тешко дека ги имале порано. За возврат, тоа ќе доведе до промена на ставовите и вредностите, убеден сум во тоа. Алгоритмите не се грижат од каде потекнувате, колку години имате, бојата на кожата, полот и образовниот пат. На пример, ќе можете да користите компјутерски игри за да ги препознаете вашите компетенции и да ги комбинирате со барањата за работа. Не само прецизноста е импресивна. Јас сум импресиониран од потенцијалот за поправедно општество - програмите не гледаат само на неверојатниот образовен пат и недостатокот на формални квалификации. Ги гледате и невидливите, скриените способности на поединецот.
Дали тогаш можеме да го исклучиме чувството на црево пред да донесеме одлуки?
Дефинитивно не. Но, можеме да ја споредиме нашата внатрешна чувствителност со помош на податоци и да му дадеме на нашето цревно чувство поинаква супстанца. Ако погледнеме подетално, прво на сите да им дадеме еднаков пристап до сè повеќе дигиталниот свет, многу ќе беше постигнато.
Дали алгоритмите се фер?
Тие се исто праведни или неправедни како и луѓето. Ако ги изградам соодветно, тие можат да донесат правда. Но, тие не можат да нè ослободат од социјалната дебата за тоа што е фер. На пример, во САД е откриено дека на одредени популации им е полесен пристапот до универзитетите од другите. Тогаш беше утврдено дека засегнатите малцинства во иднина ќе бидат доволни за да имаат послаба квалификација во средно училиште со цел да добијат место на универзитет за кој на мнозинството ќе им треба подобар сертификат. Дали е тоа фер Ова треба да се дискутира и да се одлучи во политички процес. Во секој случај, тоа е лост за рушење на структурните недостатоци.
Зарем тоа не е еднаквост?
Особено во секторот за образование, вештачката интелигенција може да стави крај на изедначувањето преку персонализирани лекции и во исто време да стане социјално поправедна: Индивидуалната поддршка не треба повеќе да зависи од кредитната картичка на родителите. Алгоритмите нема да го заменат наставникот - тој ќе биде од медијатор на знаење за секого до придружник за учење за поединецот.
Алгоритмите сега веќе донесуваат официјални одлуки. Кој презема одговорност кога не си во право?
Секој што решил да користи алгоритми, исто така мора да преземе одговорност за нив потоа, вклучително и осигурување на квалитет.
Запознаени сме со проценките на влијанието од законот за градење и животна средина. Дали ни треба такво нешто и за алгоритмите ?
Тоа е замисливо. Секогаш ќе има области каде што е доволно да се знае дека алгоритмите работат - на пример кога се обезбедуваат изнајмени возила. Потоа, постојат области каде што сакаме да ги разбереме одлуките - на пример, со тарифи за осигурување за автомобили, кои се утврдени со програми за анализа на податоци и не им е дозволено да дискриминираат која било група на население. Потребни ни се обврзувачки процедури за одобрување во чувствителни, социјално релевантни области - на пример, во одобрување на медицински роботи или во поддршка на судовите. Мора да има опции за контрола и поплаки во дигиталните, како и во аналогните.
На крајот, дали алгоритамското општество е подемократско отколку денес?
Алгоритмите дефинитивно ќе ни овозможат пристап до повеќе информации. Дали тие исто така можат да го направат општеството подемократско, ќе зависи од тоа дали ќе успееме да влеземе во сериозни процеси на политичка дискусија со давателите на социјални медиуми за опасностите од катализаторите, ехо-коморите на радикализацијата. Во моментов, нивните алгоритми промовираат и зајакнуваат сè повеќе екстремни мислења. Сепак, надоместокот може да биде и технички поддржан.
Билансот се смета за здодевен на Фејсбук или Твитер.
Но, дали треба да прифатиме дека ако мнозинството од едно општество сака рамнотежа? Мислам дека е корпоративна општествена одговорност да ги пробијат нивните комерцијални интереси во овој момент - заради мирен соживот. Овде има дефинитивно позитивни примери: После последната изборна кампања во Америка, Фејсбук имаше огромна дебата за политичкото влијание на вратот. Како резултат, механизмот за пребарување на Google беше испитан во федералната изборна кампања - со резултат дека личните карактеристики тешко играат улога во политичките пребарувања за резултатите. Значи, работи.
Федералната влада донесе „стратегија за вештачка интелигенција“ за справување со вештачката интелигенција. Каква одговорност паѓа на државата во однос на дигиталните промени?
За државата, дигиталната промена значи, пред сè, дека треба да развие соодветни вештини за дизајн. На два начина: Државата создава рамка за работа на интелигентни машини со цел да ги натера да му служат на општото добро. Во исто време, самата држава работи со алгоритамски системи во безбедносните, социјалните или финансиските власти, чии одлуки никој граѓанин не може да ги избегне. Државата затоа има двојна улога што треба да ја исполни брзо и сеопфатно.
Дали сме доволно брзи?
Можеби вреди да се погледне Кина. Theивотот на Кинезите е скоро алгоритамски. Ова оди дотаму што со усогласување со владините регулативи или друго добро однесување, се вградуваат бонуси на вашата сметка на граѓанинот, со чија помош можете да се качите во авион покрај линиите за чекање.
Тоа звучи прилично застрашувачки.
Кина воопшто не треба да биде пример за нас - но примерот нè поттикнува да брзаме да ги најдеме сопствените одговори. Без разлика дали ни се допаѓа или не: мора да зборуваме за тоа што сакаме и што не смее да постои. Сепак, ова е повеќе барано од дебатата што предизвикува страв за тоа колку работни места може да се изгубат преку дигитализацијата. Бидејќи станува збор за нашите вредности и прашањето како ги поврзуваме со нашата иднина. Примерот на Кина докажува дека оваа иднина е веќе започната.