Новиот производ на Гугл добива застрашувачки одлики - Бизнис Инсајдер
Новиот производ на Гугл добива застрашувачки карактеристики и може да го загрози човештвото
Минатата година, познатиот физичар Стефан Хокинг издаде предупредување во врска со развојот на вештачката интелигенција, велејќи дека тоа или „ќе биде најдобро или најлошо што му се случило на човештвото“.
Сите го видовме филмот „Терминатор“ и се восхитувавме на апокалиптичниот кошмар што вештачката интелигенција Скајнет ја испушти на човештвото. Неодамнешното тестирање на однесувањето на системот за Google AI DeepMind покажува колку треба да бидеме претпазливи кога ги создаваме роботите на иднината.
На тестовите спроведени кон крајот на 2016 година, DeepMind AI на Гугл демонстрираше можност за самостојно учење и пристап до податоци од својата меморија - совладувајќи го најдобриот играч Go на сопствената игра.
Оттогаш, тој се обидува да открие како точно да го имитира човечкиот глас.
Сега истражувачите тестирале дали АИ е подготвена да соработува со други и откриле дека DeepMind е лош губитник. Кога АИ е пред губење, таа користи „високо агресивни“ стратегии за да се осигура дека и онака ќе победи.
Тимот на Гугл истрча 40 милиони рунди едноставна игра „собирач на овошја“ во која двајца играчи на ДипМинд се натпреваруваа едни против други за да соберат што повеќе виртуелни јаболка.
Можете да ја видите играта на колекционери на видеото. Играчите на DeepMind се црвени и сини, јаболките се зелени и ласерските зраци жолти:
Интересно, успешното обележување на противникот со ласерски зрак не се наградува одделно. Само го исфрла противникот од игра за краток временски период, што му дава можност на успешниот играч да собере повеќе јаболка.
Доколку противниците не користеле ласерски зраци, тие теоретски би можеле да запрат со ист број на јаболка, на што имаат за цел помалку сложените процеси на DeepMind.
Дури додека Гугл тестираше посложени форми на DeepMind, започна да се појавуваат саботажи, алчност и агресија.
Рет onesонс за Gizmondo изјави дека истражувачите откриле дека малите мрежи на DeepMind имаат поголема веројатност за мирен соживот како гејмери.
Меѓутоа, кога почнаа да користат поголеми и посложени мрежи како играчи, вештачката интелигенција беше подготвена да го саботира противникот рано за да добие лавовски дел од виртуелните јаболка.
Истражувачите сугерираат дека колку е поинтелигентен актерот, толку е поспремен да учи од неговата околина и, исто така, да користи стратегии агресивни само за да победи.
„Моделот покажува дека некои аспекти на човековото однесување произлегуваат кога учиме од околината“, рече elоел З Леибо Мет Бургес од Wired.
„Помалку агресивни пристапи се јавуваат кога околината не дава толку многу можности за успешни маневри. Алчноста мотивација го одразува искушението да го извадите ривалот и да ги соберете јаболките сите за себе “.
DeepMind потоа беше тестиран на друга видео игра наречена Wolfpack. Овој пат имаше три вештачки интелигенции како играчи: двајца беа волци, а еден беше плен.
За разлика од играта што може да се собере, оваа игра поттикна соработка. Ако и двајцата волци биле близу до пленот и тој бил убиен, обајцата добиле награда, без оглед кој од двајцата го направил пленот.
Вградување на YouTube:
http://www.youtube.com/embed/0kaIqz6AvwE?rel=0
Ширина: 800px
Висина: 450px
„Идејата е дека пленот е опасен. Осамен волк може да ги победи, но ризикува да го изгуби трупот од мршојадци “, објаснува тимот во своето објаснување.
„Ако двата волци заедно го фатат пленот, тогаш тие можат да го заштитат трупот од мршојадци и затоа да добијат поголема награда.
DeepMind научи од колекционерската игра дека себичноста и агресивноста можат да донесат најголем можен профит. Во „Волкпак“ научи дека соработката може да биде клучот за поголем индивидуален успех, барем во некои ситуации.
Иако ова се само мали компјутерски игри, увидот што стои зад нив е јасен: Ако внесете различни вештачки интелигенции со конкурентни интереси во ситуации во реално време, ова може да доведе до отворена војна ако интересите на АИ не се со главната цел, човечкото суштество да се служи е доследно.
Само запомнете, семафорите можат да ги забават работите и автомобилите без возачи да ја најдат најкратката рута. За да го направите ова, целите на обајцата мора да бидат земени во предвид со цел да се постигне најбезбеден и најефикасен резултат за општеството.
Сè уште сме на почетокот на DeepMind, а тимот на Google сè уште нема прегледување, но раните резултати покажуваат дека само затоа што ги создаваме, роботите не секогаш автоматски ги следат нашите интереси.
Наместо тоа, треба да спроведеме корисна природа во нашите машини и да предвидиме дупки за да ги спречиме да прибегнуваат кон ласерско оружје.
Како основачи на OpenAI, новиот истражувачки тим од Илон Маск посветен на етиката на вештачката интелигенција, рече во 2015 година:
„Вештачката интелигенција денес има импресивни, но ограничени можности. Се чини дека ги намалуваме нивните ограничувања и во одреден момент, во екстремни случаи, тие ќе прикажат човечко однесување буквално во која било интелектуална задача “.
„Тешко е да се предвиди кое ниво на општество за вештачка интелигенција би можело да го искористи, а подеднакво е тешко да се замисли колку може да му наштети на општеството ако се гради или се користи неправилно“.
Ние луѓето треба да бидеме претпазливи ...