«Па руках будуць біць не Claude, а цябе». Гутарым с «АйЦіБарадой», як AI мяняе нашае жыццё і працу
Аляксей Картыннік, таксама вядомы як ITBeard, у вольны ад праграмавання час вядзе падкаст «Каласы пад сярпом ШІ». Апошнія чатыры гады, як толькі выйшла першая публічная мадэль ChatGPT, ён вывучае магчымасці нейрасетак і як тыя на нас уплываюць.
Dzik пагутарыў з ім пра перспектывы для праграмістаў, этыку, датацэнтры і ўзрослую кагнітыўную нагрузку.
«Чалавек патрэбны там, дзе ўзнікае адказнасць»
— Прапаную пачаць з такога: на якія фічы нейрасетак ты спадзяваўся на пачатку запуску падкасту «Каласы пад сярпом ШІ», і што з гэтага збылося на сёння?
— Я не футурыст, трэнды не прадказваю. Чатыры гады таму проста пачаў назіраць, куды развіваецца праграмаванне. Бо першыя версіі нейрасетак я выкарыстоўваў у першую чаргу для працы — і калі тыя напісалі найпрасцейшую «змейку», ужо быў у захапленні.
Але на той момант і прадказаць не мог, што будзе так, як будзе. Таму што на сёння код я самастойна ўжо не пішу — як і мае знаёмыя, і знаёмыя знаёмых. Шмат якія кампаніі цяпер выкарыстоўваюць ШІ на пастаяннай аснове.
Акрамя таго, апошнія два гады я раблю з дапамогай генератыўнага інтэлекту музыку па-беларуску (канешне, з паметкай, што гэта ШІ). І недзе год таму пачаў атрымоўваць трэкі добрай якасці. Так, нейрасеткі навучыліся вымаўляць беларускія гукі нармальна — калі, канешне, добра так пасядзець, зрабіць 200-300 генерацый і прапісаць промпты рукамі.
Разумею, некаторых такая «штучная» творчасць пужае. Доўга над гэтым думаў і прыйшоў да высновы, што ў дадзеным выпадку нейрасетка выкарыстоўваецца ў першую чаргу як інструмент. Яна не замяняе чалавека — усё ж менавіта я альбо пішу, альбо абіраю гатовыя тэксты беларускіх класікаў; выбіраю напрамак музыкі, праводжу апрацоўку і раблю выбар фінальнага выніку. То бок, нават за згенераваным трэкам стаіць жывы чалавек.
— Добра, а калі вярнуцца да праграмавання, то што думаеш пра вайбкодынг? Гэта будучыня альбо ж «лапшакод»?
— Тут я згадаю Андрэя Карпатага — «бацьку вайбкодынга» і вельмі разумнага дзядзьку, які і ўвёў гэты тэрмін. У арыгінале вайбкодынг значыў, што прафесійны праграміст, сеньёр, кажа нейрасетцы, што рабіць — і тая робіць, і за ёй нават не трэба вычытваць.
Канешне, у рэальнасці так адбываецца не заўсёды. Ёсць людзі, якія наогул не ўмеюць кодзіць і, галоўнае, не хочуць марнаваць час на вывучэнне новага навыку. Замест гэтага пішуць: «Зрабі мне такое-та пашырэнне», і гэта цалкам нармальна. Бо гэта не крытычная інфраструктура, яны вайбкодзяць толькі для сябе.
Але калі дасведчаны праграміст робіць камерцыйны прадукт і не ўчытваецца ў напісаны нейрасеткай код, то я гатовы біць яго па руках. Вы павінны абавязкова вычытваць код, гэта вашая праца.
Альбо — вычытваць код сістэм, якія пасля стануць пісаць і правяраць код для вас, які вы ўжо чытаць не будзеце. Рабіць так званыя Dark Factory
— Акей, але тут узнікае пытанне — дзе праходзіць мяжа, да якой яшчэ можна давяраць ШІ, а потым ужо нельга?
— Пытанне ў тым, навошта нам наогул чалавечы нагляд. І адказ — чалавек патрэбны там, дзе ўзнікае адказнасць. То бок, калі ты напішаш з дапамогай нейрасеткі фіговы код і адправіш яго ў прадакшн, то па руках (і добра калі толькі па руках) будуць біць не Claude Code, а цябе
Зараз гэта разрульваецца на ўзроўні кампаній — збіраюцца цэлыя сэрвісныя каманды, якія назіраюць за выкарыстаннем ШІ і прапісваюць палітыку, што можна і што нельга, на самым высокім узроўні.
— Ці ў цябе самога ёсць такі «этычны кодэкс»?
— Калі праграмую для канкрэтнай кампаніі, то, канешне, прытрымліваюся ўнутранай палітыкі. А вось ва асабістых праектах у мяне policy няма. Мая «полісі» абмежаваная маім ноўтбукам. Я ведаю свае рызыкі, і галоўная — што мае даныя могуць трапіць некуды ў інтэрнэт. Да гэтага я гатовы.
Аднак я намагаюся прытрымлівацца аўтарскага права ў нейрасетках. Гэта адна з найбуйнейшых і самых аб’ектыўных праблем на дадзены момант. Таму, калі ў мяне ёсць выбар, якую нейрасетку запусціць, выбіраю абучаную на этычных даных. У Еўразвязе, у адрозненне ад таго ж Кітаю, падобных опенсорс-праектаў хапае. Напрыклад, той жа французскі Mistral AI, і хутка ў Нідэрландах выйдзе мадэль GPT-NL.
«Этычныя пытанні пераходзяць у фізічны стан, і я рэспектую, што нехта звярнуў на гэта ўвагу»
— Мне падаецца, еўрапейская бюракратыя не вельмі спрыяе развіццю мясцовых нейрасетак...
— Часткова праўда, але, магчыма, гэта не так ужо і блага. Я нядаўна ездзіў у ЗША — паглядзець, як яны там робяць нейрасеткі. І па вяртанні зразумеў, што мне вельмі камфортна жыць у Еўропе. Бо, напрыклад, у ЗША на этыку ніхто не глядзіць.
У Еўропе ж прынамсі ёсць AI Act. І хоць гэты акт не спрыяе развіццю бізнэсу і сучасных серавісаў, але абараняе нашыя правы як карыстальнікаў — тым, што нашыя даныя не зліваюцца «на бок». Што неэтычныя тэхналогіі да нас не даходзяць (альбо даходзяць, але запозна, калі ўжо выпрацаваныя стрымліваючыя меры). Бо ў актах прапісана, што калі нехта хоча прыйсці ў ЕС са сваім сэрвісам, то першым чынам павінен прайсці этычную камісію.
То бок, хоць Еўропа і адстае па тэхналогіям, але ў гэтым ёсць свае плюсы. Напрыклад, тут не ставяць датацэнтры на рэках з пітной вадой.
— Тут варта згадаць «Magnifica Humanitas» ад Папы Рымскага, дзе ён папярэджвае пра небяспеку ШІ.
— І гэта класна. На сёння ўжо існуе шэраг пытанняў, з якімі пакуль ніхто нічога не робіць. Напрыклад — выкарыстанне нейрасетак у ваенных мэтах. Альбо — ужо згаданыя дата-цэнтры на рэках. Бо пітная вада выкарыстоўваецца для ахаладжэння, награваецца, і потым яе вяртаюць у рэкі, ад чаго гіне мясцовая экасістэма. Ну і дата-цэнтры самі па сабе падвышаюць тэмпературу на планеце, якая і так ужо награваецца… То бок, этычныя пытанні пераходзяць у фізічны стан, і я рэспектую, што нехта звярнуў на гэта ўвагу.
Яшчэ адна праблема, якая мяне цікавіць — гэта суіснаванне чалавека і ўсіх гэтых ШІ. І так, тут гаворка пра «штучны інтэлект» — бо ў масавым сазнанні гэта менавіта інтэлект. Людзі ўжо закохваюцца ў чат-боты і забіваюць сябе праз гэта. І чамусьці ніхто не ўспрымае гэтае пытанне сур’ёзна.
Аднак, сазнаюся, я аптыміст і спадзяюся, што ў будучыні нейрасеткі сапраўды дойдуць да ўзроўню штучнага інтэлекту і самі сябе выцягнуць з гэтай багны — і нас з сабой заадно.
«Не бяжыце адразу да менеджменту»
— А што наконт тэмы, што ШІ хутка нас усіх заменіць?
— Нядаўна больш за 200 навукоўцаў і 16 нобелеўскіх лаўрэатаў падпісалі дакумент пад назвай «We Must Act Now» — што трэба выпрацаваць кодэкс, каб папярэдзіць беспрэцэдэнтную хвалю звальненняў. Бо калі не рабіць нічога, то эканоміка проста абваліцца.
Так, шмат хто параўноўвае цяперашнюю сітуацыю з індустрыялізацыяй, калі вынайшлі станкі і гэтак далей. Але ў мінулым бацькі, хоць і гублялі працу, аднак ведалі — прынамсі іх дзеці знойдуць месца за тым жа самым станком. То бок, сям’я не выключалася з эканамічнай сітуацыі цалкам. Сёння ж і бацькі пазбаўляюцца працы, і дзеці не ведаюць, куды ісці, каб іх не звольнілі ўжо праз 2-3 гады.
Думаю, для змены сітуацыі трэба, каб хваля звальненняў дакацілася не толькі да ўмоўных джуноў, але і да людзей з фізічнай працай. Бо калі звольніць джуна, то ён пойдзе дауншыфціць у вёску. А калі звольняць вяскоўца, то ён узбунтуецца.
— Трэба яшчэ закрануць тэму, што, падаецца, ШІ выкарыстоўваецца як сродак выціскання з працаўніка па максімуму.
— Гэта так. Калі глядзець з пункту гледжання кампаніі, то ты як працаваў тыя 8 гадзін, так і працуеш. Маўля, у цябе ж на руках штучны інтэлект, ты павінен прыносіць больш карысці за той жа час. Але працадаўца не звяртае ўвагі, што кагнітыўная нагрузка таксама ўзрастае. Са штучным інтэлектам даводзіцца сачыць за большай колькасцю рэчаў, і праз гэта ты робіш больш памылак і выгараеш хутчэй.
Атрымліваецца, што нас усіх падпісваюць на новы памер кагнітыўнай нагрузкі, а заробак застаецца тым жа.
Ад нас зараз чакаюць такой хуткасці, што не застаецца часу перачытаць код за ШІ. Даводзіцца навешваць паверх першай нейрасеткі яшчэ некалькі, каб яны пераправяралі адна за адной. У выніку з усімі гэтымі надбудовамі токены каштуюць ледзь не болей за працу жывых распрацоўшчыкаў. Ужо зараз ёсць выпадкі, калі кампаніі спачатку звальнялі людзей, а потым, падлічыўшы выдаткі, запрашалі іх назад.
— Што мы можам зрабіць, каб уратаваць менталку хаця б у моманце?
— Тут няма простых рашэнняў. Проста паслаць боса і працаваць толькі дзве гадзіны не атрымаецца.
Думаю, кагнітыўная нагрузка ранейшай ужо не будзе. Так што сачыце за развіццём тэхналогіі ў сваёй прафессіі, каб хаця б разумець, што адбываецца і зніжаць трывожнасць. Слухаць тэматычныя падкасты. Ну і, канешне, не бегчы адразу да менеджменту і казаць: «Глядзіце, як я класна магу зрабіць». Не трэба.
Калі ж хочаце забяспечыць сабе бэкап, то паглядзіце на прафесіі, болей звязаныя з фізічнай працай. А лепей — на галіны, дзе трэба працаваць з чалавекам. Усе гэтыя, доўлы, псіхолагі, сацыяльныя працаўнікі —то бок, там, дзе чалавеку будзе проста некамфорта атрымоўваць парады ад істоты без эмпатыі.
Думаю, у будучыні людзі стануць намагацца «падтрымліваць сваё» і выбіраць прадукт ад чалавека, а не ШІ.
«Мы хутчэй будзем архітэктарамі, чым праграмістамі»
— А што б ты параіў джунам?
— Праблема ў тым, што джуны з сённяшнім наборам ведаў заўтра ўжо не будуць патрэбныя.
Калі вы вучыцеся ў БДУ і думаеце, што праз 5 гадоў у вас будзе праца, то не, не будзе. Таму дакладна не раю ісці ва ўніверсітэт. Максімум — схадзіце на кароткія курсы за базавымі ведамі па тыпу Computer science, Data і г.д.
Калі глянуць на трэнды, то, падаецца, праграмісты будучыні наогул код не будуць пісаць. Мы выходзім на больш высокі ўзровень абстракцый і будзем адказваць за якасць прадукту з пункту гледжання тэхналогій. Каб прадукт адпавядаў патрабаванням заказчыка і працаваў без збояў. То бок, мы хутчэй будзем архітэктарамі.
— Але як джун можа стаць архітэктарам без вопыту?
— Гэта кагнітыўнае скажэнне, якое прынесла сфера. У нас у галавах існуе нягнуткая шкала развіцця — джун, мідл, сеньор і толькі потым архітэктр. Але насамрэч яна даволі штучная.
Так, да ўкаранення нейрасетак ты доўгі час нарошчваў свае веды, набіраў даныя і толькі потым у нейкі момант пачынаў разбірацца як працуе сістэма. Але ўжо хутка гэты этап можна будзе прапусціць і адразу пераходзіць да пабудовы софту. Праграміст як прамежкавы элемент між пажаданнямі заказчыка і сістэмай, якая і стане пісаць код.
Таму, думаю, у будучыні будуць запатрабаваныя два скілы — архітэктурнае мысленне і разуменне даменных сфер. Так, другі навык праграмісты не вельмі любяць, бо тут трэба шмат размаўляць з заказчыкамі. Але без яго нікуды.
Ну і зараз ужо з’яўляецца новая прафесія — продакт-інжынер. Гэта найбліжэйшае, што можна назваць праграмістам будучыні, таму раю пачытаць, якія скілы там патрэбныя.
