Хората, които се безпокоят, че сме на път да изобретим опасно интелигентни машини, нямат информация за състоянието, в което се намират компютърните науки днес.
Йошуа Бенджио ръководи една от най-известните научноизследователски групи в света, работещи върху „дълбоко обучение“ (deep learning) – сложна техника в областта на изкуствения интелект. Поразителните умения, които компютрите придобиха през последните години с помощта на дълбокото обучение, подбудиха редица въпроси и предупреждения относно напредъка на изкуствения интелект по пътя му към достигането, или дори надминаването, на човешкия разум. Видни личности като Стивън Хокинг и Елън Мъск дори предупредиха, че изкуственият интелект би могъл да представлява заплаха за съществуването на човечеството. Хора като Мъск инвестират милиони долари в изследването на потенциалните опасности – и евентуалното им неутрализиране – криещи се в тези нови технологии. Според много от хората, занимаващи се с развитието на изкуствения интелект, обаче, подобни страховити изявления са твърде преувеличени.
Бенджио, професор по информатика в университета Монреал, дава интервю за перспективите по въпроса пред Уил Найт, старши редактор в списанието на Масачузетския технологичен институт MIT Technology Review.
Трябва ли да се безпокоим за темпото, с което изкуственият интелект напредва?
Някои хора надценяват до огромна степен постигнатия напредък. Зад много от постиженията на новата технология стоят години на бавно развитие, в това число прости неща като събирането на повече информация и увеличаването на компютърната мощност. Целият шум не е за това дали нещата, които вършим, са полезни или не – те са; но хората подценяват още колко много трябва да напредне науката. В същото време е трудно да разделим приказките от реалността, тъй като наблюдаваме тези велики технологии с очите си и за незапознатия наблюдател те изглеждат магически.
Съществува ли опасност учените, които се занимават с разработването на изкуствения интелект, случайно да „отприщят демоните“, както се изрази Мъск?
Никой не е открил някаква магическа рецепта изведнъж от нищото. Нещата са много по-сложни от простите истории, които някои хора искат да представят. Понякога журналистите искат да разкажат историята как някому хрумва невероятна идея, както си стои в гаража, и това води до пробив в изкуствения интелект. По подобен начин компаниите искат да заявят нещо от сорта: „Разполагаме с революционна технология, която ще промени света – изкуственият интелект е почти усъвършенстван и ние сме компанията, която ще го предостави.“ Нещата въобще не стоят по този начин.
Пропускаме нещо съществено. Напредваме с голяма скорост, но не сме достигнали момента, в който можем да заявим, че машината разбира. Все още сме далеч от това.
А как бихте коментирали популярната идея, че изкуственият интелект може по някакъв начин да започне да се подобрява сам и по този начин да стане труден за управление?
Това не е начинът, по който тази технология се разработва в днешно време. Машинното обучение на практика представлява един усърден и бавен процес на събиране на информация чрез милиони конкретни примери. Да, машините се подобряват, но това става много, много бавно и то по строго определени начини. Алгоритмите, с които се занимаваме, въобще не приличат на самопрограмиращите се вируси. Не разработваме подобни неща.
Кои са някои от съществените неразрешени проблеми с изкуствения интелект?
Безнадзорното обучение е изключително важно. Начинът, по който обучаваме машините в момента, включва това – изрично да им казваме кое е изображение, до последния пиксел. При роботизираните автомобили хората наслагват огромен брой изображения, за да им покажат кое е пешеходец и кое – път. Това няма нищо общо с начина, по който се учат хората или животните. Изпускаме нещо съществено. Това е едно от основните неща, с които се занимаваме в моята лаборатория, но то няма краткосрочни приложения – и вероятно няма да бъде от полза за изграждането на някакъв продукт в близкото бъдеще.
Изображение на разработения от Йошуа Бенджио „модел на обучение“, в който машините „мислят“ за лица и емоции
Друго голямо предизвикателство е разбирането на естествена реч. Окуражени сме, защото през последните няколко години напредваме доста бързо, но все още не сме достигнали нивото, в което можем да кажем, че машините са способни да разбират. Бихме могли да заявим това едва когато прочетем част от текст и машината е способна да отговори разумно, подобно на човек, на въпрос по текста. Много сме далеч от това.
Какви подходи отвъд дълбокото обучение биха били необходими за създаването на истински изкуствен интелект?
За да постигнем това, трябва да обвържем дълбокото обучение с традиционни действия, включително разсъждаване и логика. Аз съм един от малцината, които считат, че хората, занимаващи се с машинно и дълбоко обучение, трябва да обърнат повече внимание на невронауката. Все още не знаем много неща относно това защо мозъкът функционира. Ако разширим разбирането си по въпроса, това би било от голяма помощ в изследването на изкуствения интелект.
Също така считам, че хората, занимаващи се с невронаука, биха имали голяма полза от това да следят какво правим и да се опитват да свържат концепциите, които развиваме в машинното обучение, с процесите, които наблюдават в мозъка.
Мислили ли сте си някога, че ще трябва да обяснявате на хората как изкуственият интелект няма да превземе света? Може би се чувствате странно.
Тази тревога е определено ново явление. В продължение на много години изкуственият интелект беше едно разочарование. Като научни изследователи, ние се опитваме да направим машините малко по-интелигентни, но те все още са много глупави. До преди време мислех, че науката трябва да се нарича не „изкуствен интелект“, а „изкуствена тъпота“. В действителност машините ни са глупави и ние просто се опитваме да ги направим една идея по-умни.
Заради напредъка, който хората виждат в прототипите, сега можем да кажем: „Леле, то наистина може да казва неща на английски и да разпознава съдържанието на едно изображение.“ Като свържем тези неща с цялата научна фантастика, която сме изгледали, можем да си обясним защо някои хора се плашат.
Добре, но все пак със сигурност е важно евентуалните последици да бъдат премислени сега.
Определено. Трябва да говорим за тези неща. Това, което ме притеснява в близкото бъдеше, е не, че компютрите ще завладеят света. Повече ме притеснява неправилната или злонамерената употреба на изкуствения интелект – неща от сорта на военни приложения, манипулация на хората чрез хитро рекламиране – както и обществените последици: много хора биха могли да загубят работата си. Обществото трябва да се обедини и да излезе с колективен отговор, а не да остави нещата да се подредят по закона на джунглата.
Превод: Момчил Вачев / Memoria de futuro
Източник: MIT Technology Review
Оставяне на коментар