Потребен ни е морален код за роботи

Денес живееме во време на забрзан технолошки напредок, во кое реалноста забрзано се приближува вртоглаво кон визијата на Асимов. Роботите се сè повеќе дел од нашите животи, сè поинтелигентни, сè поавтономни, се повеќе и повеќе способни да иницираат активности сами, да „размислуваат со главата“ - дури и ако таа „глава“ е процесор -, да ги надминат наметнатите услови. на човечката контрола. Под овие услови, робот може да направи многу добро и исто толку штета. Тука веќе сме во ситуација да разработуваме морален код за нашите роботи, систем на закони сличен на оној што го мислеше Асимов. Неговата визија стана реалност, иднината е веќе тука. Но, дали овој морален кодекс е толку лесен за обработка?

Законите на роботите и нивните интерпретации

Илјадници проекти во моментов се фокусирани на градење машини кои не само што можат да се движат, комуницираат, извршуваат задачи прецизно поставени од луѓе, туку исто така носат одлуки, во зависност од условите, да изберат свои решенија.; со други зборови, да се биде автономија. И под машини или роботи, мислиме не само на хуманоидни роботи (кои, сепак, претставуваат малцинство во денешниот роботски свет), туку и многу воени и комунални роботи од сите облици и големини, како и компјутерски системи кои обезбедуваат автономна активност на оние поразновидни композиции и кои ќе играат огромна улога во иднина, интегрирани во илјадници системи, од беспилотни летала до опрема што се користи во градежништвото, од апарати за домаќинство до подморници, од автомобили без возачи до хируршки мини-роботи. Со други зборови - секој систем што „размислува“ со помош на процесори, да биде опремен со таканаречена вештачка интелигенција.

Крајната цел на истражувањето за вештачка интелигенција е да се создадат машини што е можно поблиску до луѓето, во смисла на когнитивни и способности за донесување одлуки. Научниците сонуваат за автоматизирани системи кои, како и човекот, можат брзо да ја проценат ситуацијата, да се потсетат на претходно собраното знаење, да поминат сè низ ситото на моралните правила и, интегрирајќи ги сите овие аспекти, да донесат одлука за тоа како да постапат. . Звучи едноставно. Но, не е така.

Роботите на Асимов мораа да почитуваат три закони, големи и широки, но сите се засноваат на забраната за штета на човечко суштество.

Робот не смее да повреди човечко суштество или, со неинволвирање, да дозволи човечко суштество да биде повредено.
Робот мора да ги почитува наредбите дадени од човечки суштества, освен ако овие наредби не се во спротивност со Првиот закон.
Робот мора да се заштити, се додека таквата заштита не е во спротивност со Првиот и Вториот Закон.

Сепак, една статија неодамна објавена во „Економист“ привлече внимание на некои сценарија - хипотетички, засега - во кои послушен и добро образован „робот“, свесен за важноста на трите закони и решен да ги почитува, би бил ставен во екстремно тешки ситуации. . Што треба да стори автомобил без возач, на пример, кога постои опасност да се удрат пешаци: свртете нагло за да ги избегнете, со ризик да ги повредите неговите патници и да удрите во други автомобили? Или дрон што треба да пука во зграда во која се крие терорист, што треба да направи? Да се уништи зградата по секоја цена, за да се постигне целта, дури и ако тоа значи убиство на невини цивили кои се во иста зграда?

Всушност, самиот Асимов, во некои раскази напишани во текот на неговиот живот, по објавувањето на „Runaround“, замисли сценарија во кои роботи прекршиле еден или друг закон или барем сонувале да го сторат тоа., со што се сугерира дека ниту еден сет на фиксни правила не може целосно да ги покрие сите можни ситуации. Што докажува дека работите никогаш не се толку едноставни како на хартија.

И покрај фактот дека законите за роботи се формулирани пред 7 децении, проблемот со моралниот код започна да се актуелизира само во последниве години, кога бурниот развој на системи опремени со вештачка интелигенција ги принуди луѓето да сфатат дека, со успесите, се појавува загрижувачка страна: тоа како ќе се однесуваат овие креации - скоро суштества - кога ќе станат автономни, како што сакаат нивните творци. Значи, ние зборуваме за многу неодамнешна појава. Како доказ, неодамнешна е сеопфатната работа на оваа тема:

Во 2009 година, Универзитетот „Оксфорд Прес“ објави Морални машини: Настава на роботи од погрешно (автори: Вендел Валач и Колин Ален), сеопфатна синтеза на предизвиците за градење на АМА и цитирање на приближно 450 библиографски извори, од кои огромно мнозинство датираат на 21 век.
Во 2011 година, Универзитетот Кембриџ Прес објави збирка есеи за прашањето за етиката на вештачки системи (Машинска етика; автори: Мајкл Андерсон и Сузан Леј Андерсон).
Исто така, во 2011 година, Ник Бостром и Елиезер Јудковски внесоа статија наречена Етика на вештачката интелигенција во Кембриџ прирачникот за вештачка интелигенција.

И така, огромното мнозинство на книги и статии, како и популарни написи објавени во разни публикации, датираат од само неколку години, што се чини дека укажува на тоа дека проблемот станал акутен. Несомнено, феноменот е поврзан со фактот дека, во последните неколку години, роботите и, генерално, системите опремени со вештачка интелигенција навистина станаа способни за многу, различни дејства и одлуки, што го става прашањето за морално образование на овие композиции.

Пред нашите очи, се појавува нов вид суштество: веќе се зборува за посебна категорија „суштества“, т.н. вештачки морални агенти (АМА), системи обдарени со вештачка интелигенција, но кои ќе бидат (и ќе бидат) неопходни за донесува одлуки не само според објективни услови, туку и во согласност со моралот што ќе им го „стават во главата“ оние што ги дизајнирале и граделе.

Експерименти, мислења, визии

Еве некои од неодамнешните студии кои ја илустрираат огромната важност на овој аспект на технологијата, како и мислењата на некои специјалисти за ова комплицирано прашање:

Во 2008 година, експертот за вештачка интелигенција Ноел Шарки од Универзитетот во Шефилд, Велика Британија, го сврте вниманието на фактот дека роботите направени за забава на деца и грижа за стари лица треба да бидат подложени на етичка строгост.

Но, колку е веројатно еволуцијата на роботите да го направи неопходно да се обдарат со морален код? Една статија во Популарна наука го носи на сцената чудниот карактер на робот што лежи, а не лик на фантастична литература, туку оној што стана вистински. Ова е експеримент спроведен од истражувачи од Лабораторијата за интелигентни системи на Федералната политехничка школа во Лозана, Швајцарија, експеримент фокусиран на еволутивните можности на роботите, нивната способност да учат и да соработуваат за наоѓање на одреден ресурс (корисен материјал ) и избегнувајте извор на штетен материјал.

Во експериментот учествувале 1.000 роботи, поделени во групи од по десет лица. Секој робот беше опремен со сензор, систем за сигнализација (сино светло) и „геном“ - бинарен код кој контролира како робот реагира на дразби. Роботите од првата генерација беа програмирани да ја осветлуваат својата сина светлина кога ќе го откријат корисниот извор, помагајќи им на другите роботи да го пронајдат.

Врвните 200 роботи, оние што успеаја најбрзо да го пронајдат најдобриот добар ресурс, ја формираа основата за следната генерација. Нивните „геноми“ беа комбинирани, а резултатот беше искористен за програмирање на новата генерација на роботи.
По 9 генерации, роботите станаа исклучително ефикасни во наоѓањето ресурси и комуникацијата со другите роботи за да ги насочат кон ресурсите. Но, ако робот го пронајде ресурсот, тоа сигнализираше дека го пронашол и сите други се натрупуваа таму за да го искористат, тоа значи дека останува уште помалку за оној што го најде, нели? Неверојатно, но вистинито: вака „мислеа“ некои од роботите во експериментот. И не само што го разбраа проблемот, туку најдоа и решение.
По 500 генерации, 60% од роботите научија да лажат: не ги запалија сијалиците кога го најдоа ресурсот што го бараа; она што го најдоа (само) нивното! Но, беше уште погласно кога другите роботи сфатија дека лажговците ги лажираат, држејќи ја светлината исклучена и почнаа да ги бараат оние без сијалица, сфаќајќи дека е поверојатно дека го нашле она што требало да се најде. . Со други зборови, тие го направија токму спротивното од тоа што требаше да го сторат!

Значи, роботите можат да научат да лажат. И, ако се лажат едни со други, не може ли еден ден да не лажат нас? И, ако завршат да не лажат, што би можело да спречи некои од нив да направат уште полошо (од наша гледна точка)? Некои од нив може лесно да ни наштетат физички; обдарени со оружје (кој знае дали не би можеле сами да го градат?) може дури и да нè убијат. Звучи како параноиден делириум? Можеби. Но, ако големата, неинтелигентна индустриска машинерија претставува вистинска опасност за луѓето кога ќе се управува без соодветна грижа, влијанието на АМА без морални сопирачки што му овозможуваат на човештвото да ги живее своите животи во релативна опасност може да биде сè поопасно. безбедност.

Екстремно сценарио, се разбира, но тука, повеќе од половина век по ова толкување, веќе го имаме проблемот со еволуцијата на вештачки интелигентни системи, границите на оваа еволуција, како би можеле да ги опремиме со лекциите потребни за хармоничен соживот. со човекот, нивниот творец, кога границата помеѓу човечките когнитивни способности и оние на WADA ќе стане целосно тенка или ќе исчезне.

Како да ги научиме да разликуваат зло од добро? Како да ги заштитиме од злата што нè прогонуваат и честопати бегаат од стегите на моралните ограничувања, правејќи им толку многу штета на оние околу нас: себичност, алчност, жед за моќ?

Засега ги контролираме, а можноста тие да ја преземат контролата се чини како утопија. А сепак, фактот дека луѓето кои работат со овие системи на дневна основа (и знаат добро што можат и што не можат да направат) се занимаваат со прашањето за етика на нивното функционирање покажува дека времето кога ќе треба да најдеме морална основа за соживот не е колку што мислев.