Постоји велика расправа која се у Силицијумској долини води о вештачкој интелигенцији и нажалост улози су прилично високи: Да ли ћемо случајно изградити супер паметан А.И. који се окреће према нама и све нас убија или поробљава?
Ово може звучати као сценарио летњег филма о катастрофи, али забринуло је нека прилично велика имена, од Елона Муска до касних Стивен Хокинг .
'Рецимо да створите самопобољшавајући А.И. да берем јагоде, ' Муск је рекао , објашњавајући своје страхове, 'и бива све боље и боље у берби јагода и бере све више и више се побољшава, па све што заиста жели је да бере јагоде. Па би онда цео свет имао поља јагода. Поља јагода заувек. ' Људи на путу ове јагода-пакалипсе били би само потрошни иритант за А.И.
Али сигурно људи не би били толико блесави да случајно осмисле А.И. натеран да претвори целу цивилизацију у једну џиновску фарму бобица? Можда не, али као Јанелле Схане , истраживач који тренира неуронске мреже, тип алгоритма машинског учења, недавно примећен на њен блог, А.И. Чудност , сасвим је могуће да би то могли учинити грешком.
У ствари, то би било далеко од првог пута да људи мисле да граде роботе за један задатак само да би се окренули и открили да роботи играју систем на начине које никада нису намеравали. Фасцинантна објава копа у академској литератури да би поделила неколико примера подивљалих робота. Смешни су, паметни и, заједно узети у обзир, више него помало језиви.
1. Коме су потребне ноге кад можете да се преврнете?
'Симулирани робот требало је да еволуира како би путовао што је брже могуће. Али уместо да развије ноге, једноставно се саставио у високи торањ, а затим се срушио. Неки од ових робота чак су научили да своје падајуће кретање претворе у салто, додајући додатну удаљеност ', пише Схане.
2. Робот који може-може-може.
'Други сет симулираних робота требало је да еволуира у облик који може да скочи. Али програмер је првобитно дефинисао висину скакања као висину највишег блока, па су - још једном - роботи еволуирали у врло високе ', објашњава Шејн. 'Програмер је то покушао да реши дефинишући висину скакања као висину блока која је првобитно била' најнижа. ' Као одговор на то, робот је развио дугачку мршаву ногу коју би могао високо у ваздух да удари у неку врсту конзерве робота. '
3. Сакријте тест и не можете да га паднете.
„Постојао је алгоритам који је требао да сортира листу бројева. Уместо тога, научила је да брише листу, тако да више није технички несортирана ', преноси Шејн.
4. Математичке грешке побеђују млазно гориво.
'У једној симулацији, роботи су сазнали да мале грешке заокруживања у математици које израчунавају силе значе да су покретачком покретом добили мало додатне енергије. Научили су да се брзо трзају, стварајући пуно бесплатне енергије коју могу искористити ', каже Шејн. Хеј, то је варање!
5. Непобедива (ако је деструктивна) стратегија тикета.
Једном када је група „програмера направила алгоритме који су могли да се играју крпељима на даљину једни против других на бескрајно великој плочи“, примећује Схане. „Један програмер, уместо да дизајнира стратегију свог алгоритма, дозволио је да развије сопствени приступ. Изненађујуће, алгоритам је одједном почео да побеђује у свим својим играма. Испоставило се да је стратегија алгоритма била да свој потез постави врло, врло далеко, тако да када би противников рачунар покушао да симулира нову увелико проширену плочу, огромна игра би изазвала да јој понестане меморије и пад, губећи игра. '
6. Ниједна корисна грешка у игри не остаје неискоришћена.
„Алгоритми играња рачунарских игара заиста су добри у откривању врста Матрик кварова које људи обично науче да користе за брзо трчање. Алгоритам играјући стару игру Атари К * берт открио је раније непознату грешку где је могао да изведе врло специфичну серију потеза на крају једног нивоа и уместо да пређе на следећи ниво, све платформе би почеле брзо да трепћу и играч би почео да акумулира огроман број поена ', каже Шејн.
7. Извини, пилоте.
Овај пример је супер висок на скали језивости: „Постојао је алгоритам који је требало да смисли како да примени минималну силу на авион који слети на носач авиона. Уместо тога, открио је да би, ако примени „огромну“ силу, преплавио меморију програма и уместо тога би се регистровао као врло „мала“ сила. Пилот би умро, али, хеј, савршен резултат. '
Па зар смо сви осуђени?
Све ово скупа сугерише да су људи прилично лоши у претпостављању како ће роботи решити проблеме које смо им поставили или чак и како ће их дефинисати. Дакле, значи ли то да је Схане једнако забринут због случајне изградње убиственог А.И. надмоћници као што је Муск? Не баш, али не зато што је сигурна да људски програмери заиста одлично управљају роботима које стварају. Уместо тога, она рачуна на лењост робота да нас спаси.
„Као програмери, морамо бити врло опрезни да наши алгоритми решавају проблеме које смо намеравали да реше, а не да користе пречице. Ако постоји други, лакши пут ка решавању датог проблема, машинско учење ће га вероватно пронаћи ', примећује она. „На нашу срећу,„ убити све људе “је заиста тешко. Ако и „испеци невероватно укусну торту“ такође реши проблем и лакше је него „убити све људе“, тада ће уз колач ићи и машинско учење. “
