Tehisintellekti abil programmeerimine on tuhandete arendusmeeskondade jaoks tulevikulubadusest saanud igapäevaseks reaalsuseks. Tehisintellekti abil töötav assistent suudab sekunditega luua terviklikke funktsioone, skripte ja isegi terveid rakendusi ning see suurendab küll tootlikkust, aga ka riske.
Paljud organisatsioonid ei suuda ikka veel aru saada, et tehisintellekt ei võta endale mingit vastutust : kui kood ebaõnnestub, peab sellega silmitsi seisma tehniline meeskond. Ja probleem pole ainult selles, et kood võib olla halvasti disainitud või seda on raske hooldada; tegelik väljakutse on see, et suurel protsendil juhtudest jõuab see tootmiskeskkonda tõsiste turvaaukude tõttu.
Tehisintellekti loodud kood: rekordiline tootlikkus ja kontrollimatu rünnakupind
Väga lühikese ajaga oleme jõudnud stsenaariumi, kus väga suur osa tootmiskoodist pärineb nüüd tehisintellekti mudelitest . Uuringud näitavad, et kolmandik arendajatest tunnistab, et üle 60% nende kirjutatust pärineb intelligentsetelt assistentidelt ning et ettevõtted näevad juba praegu märkimisväärset tootlikkuse kasvu tänu „vibratsioonikodeerimisele” ehk käsureal põhinevale programmeerimisele.
Selle mündi teine külg on see, et umbes poolel automaatselt genereeritud koodist on mingisugune haavatavus , alates SQL-süstidest kuni krüptovigade või halvasti kavandatud juurdepääsukontrollideni. Mõnes keeles, näiteks Javas, on leitud, et enam kui 70%-l tehisintellekti loodud koodist oli turvaauke.
See olukord sunnib paljusid organisatsioone juurutama tootmiskeskkonda tarkvara, mille ebatäiuslikkuses nad juba kahtlustavad . Aruanded näitavad, et üle 80% meeskondadest tunnistab, et on juurutanud koodi teadmisega, et see pole veel täielikult küps, ning peaaegu kõik neist on kogenud küberturvalisuse intsidenti, mis on seotud selle koodi haavatavustega.
Veelgi hullemaks on hüppeliselt kasvanud varjutehisintellekti fenomen : töötajad kasutavad genereerivaid tehisintellekti tööriistu ilma organisatsioonilise järelevalveta, kopeerivad ja kleebivad koodijuppe või isegi kleepivad tundlikku teavet küsimustele. See avab ukse andmete lekkimisele ja ebaturvaliste komponentide vaiksele levikule, mida on hiljem võimatu jälgida.
Paljusid neist riskidest süvendab tohutu nn kodanik-arendajate sissevool – need on isikud, kellel puudub korralik tarkvaratehnika väljaõpe ja kes loodavad tehisintellektile automatiseeringute, väikeste sisemiste rakenduste või integratsioonide loomiseks. Kood annab küll funktsionaalseid tulemusi, kuid sageli puuduvad sellel isegi kõige elementaarsemad turvalisuse ja kvaliteedi garantiid.
Tehisintellekti loodud koodi peamised turvariskid
Tehisintellekti esiletõus tarkvaraarenduses ei ole küll uusi haavatavusi tekitanud, kuid on märkimisväärselt suurendanud vanade nõrkuste ilmnemise kiirust ja sagedust . Mitmed küberturvalisuse analüüsid on ühel meelel mitmete eriti kriitiliste riskide osas, mis tekivad siis, kui meeskonnad toetuvad liiga palju generatiivsetele tööriistadele.
Üks nähtavamaid näiteid on „vibe-kodeerimine“ ilma põhjaliku testimiskomplekti või tõsiste ülevaadeteta . Terviklikud funktsioonid või teenused genereeritakse ühe käsuviibaga, kontrollitakse pealiskaudselt, et veenduda nende „töötamises“, ja seejärel integreeritakse ilma turvatestimise, vastastikuse eksperdihinnangu või automatiseeritud analüüsita. See laseb läbi lipsata põhilistel haavatavustel, mida oleks avastanud iga minimaalselt range audit.
Samuti on mureks rünnakud tarkvara tarneahela vastu . Tehisintellekti mudelid kipuvad levinud probleemide lahendamiseks soovitama kolmandate osapoolte sõltuvusi. Kui neid sõltuvusi ei jälgita ja analüüsita tarkvara koostise analüüsi (SCA) tööriistadega, avab see ukse pahatahtlike teekide või ohustatud versioonide lisamiseks tuhandetesse projektidesse ühe toiminguga.
Väliste pakettide pideva jälgimise ja auditeerimise puudumine võimaldab hägustatud koodi või kahtlase käitumisega moodulitel süsteemides töötada ilma hoiatusi andmata. Kui tehisintellekt neid komponente nii lihtsalt soovitab ja integreerib, suureneb pahavara sissetungimise oht "kahjutu" teekina hüppeliselt.
Teine tundlik valdkond on keelemudelite integreerimine andmebaaside ja sisemiste süsteemidega . LLM-i ühendamine ettevõtte teabega ilma piisavate kontrollimeetmeteta avab ukse süstimis- ja mürgistusrünnakutele: andmetesse või sõnumitesse peidetud pahatahtlikud juhised, mis sunnivad mudelit saladusi avaldama, poliitikatest mööda hiilima või sobimatuid toiminguid tegema.
Lisaks on tehisintellekti mudelite treenimiseks kasutatavates avalikes andmekogumites tuvastatud tuhandeid aktiivseid volitusi ja saladusi . API-võtmed, paroolid ja märgid manustatakse repositooriumidesse, foorumitesse või koodinäidistesse ning võivad uuesti ilmuda mudeli vastustes või olla ärakasutatud ründajate poolt nende andmekogumite analüüsimisel.
Me ei tohi unustada probleemi algpõhjust: turvalisus läbimõeldult puudub suuresti . Enamik arendajaid tunnistab, et kulutab vigade parandamisele rohkem aega kui turvanõuete kaasamisele juba disainifaasist alates. Keskkondades, kus kiirus on esmatähtis, sunnib äriline surve arendajaid "funktsionaalsust kohe avaldama" ja turvalisust hilisemaks jätma... kui see aeg kunagi kätte jõuab.
CISO-de, arhitektide ja ekspertide visioon: aktsepteerida tehisintellekti, aga kontrolli all hoida
Erinevatel erialastel kohtumistel ja ümarlaudadel on panganduse, tööstuse, tehnoloogiakonsultatsiooni ja teenindusettevõtete küberturvalisuse juhid ühel meelel, et tehisintellekt koodiarenduses pole enam valikuline . Seda kasutatakse massiliselt ja ükski mõistlik küberturvalisuse ametnik ei kaaluks selle lihtsalt keelustamist.
Nad kaaluvad, kuidas riske maandada ilma innovatsiooni lämmatamata . Paljud propageerivad turvalisi arendusstrateegiaid, mis põhinevad "nihke vasakule" lähenemisviisil: turvatestimise, SAST-analüüsi ja sõltuvuste ülevaatuse viimine tarkvara elutsükli kõige varasematesse etappidesse, kohe, kui arendaja – ehk tehisintellekt – kirjutab esimesi ridu.
See nihe tähendab, et küberturbemeeskonnad ei jõua enam lõppu, kui kõik on välja töötatud ja tootmises , et öelda, et see tuleb maha visata ja uuesti üles ehitada. Selle asemel on nad arendusega kaasas juba esimesest commit'ist alates, integreerides tööriistu, mis analüüsivad koodi reaalajas ja pakuvad koheseid soovitusi.
Organisatsioonides, kus arendus on tellitud alltöövõtjalt või kus ettevõttesisese koodi maht ei ole suur, nõuavad turvajuhid nähtavust selle kohta, kuidas kood genereeritakse . Nad tahavad kinnitust, et müüjad kasutavad turvalisi tavasid, ei looda pimesi tehisintellekti abilistele ning kontrollivad koodi enne tarnimist skanneritega ja ametlike ülevaatustega.
Teised CISO-d hakkavad arendajaid nägema pigem tehisintellekti genereeritava „valideerijatena“ , mitte iga koodirea autoritena. Roll on muutumas: enam ei seisne see ainult koodi loomises, vaid selle mõistmises, küsitlemises, ülevaatamises ja mudeli pakutava täiustamises, eriti tundlikes valdkondades nagu autentimine, autoriseerimine, krüpteerimine ja isikuandmete käitlemine.
Ettevõtetes, kus on palju pärandtarkvara, keskendutakse haavatavuste kontrollimisele, mis ilmnevad kolmandate osapoolte teekides ja pärandkihtides, mida keegi ei julge puutuda. Siin hakkavad automatiseeritud analüüsitööriistad ja turvalisusele spetsialiseerunud tehisintellekti agendid aitama kaardistada riske ja seada prioriteediks seda, mida tuleks kõigepealt parandada.
Tehisintellekt kui kaitseliitlane: tuvastamine, prioriseerimine ja reageerimine
Sama tehnoloogia, mis teeb ebaturvalise koodi kirjutamise lihtsamaks, muudab radikaalselt ka seda, kuidas me selle vastu kaitseme. Turbeoperatsioonide keskustes (SOC-ides), SIEM-platvormidel ja koodianalüüsi tööriistades on generatiivsest tehisintellektist ja süvaõppe mudelitest saamas võtmekomponendid.
Tehisintellektil põhinevad tuvastusmootorid ei otsi ainult signatuure või staatilisi mustreid ; nad suudavad analüüsida koodi käitumist, täitmisvooge ja funktsioonide vahelisi semantilisi seoseid. Massiliste andmehoidlate ja reaalse maailma ohuandmete peal treenituna tuvastavad nad haavatavusi ja pahatahtlikku loogikat isegi siis, kui kood on kirjutatud ebatavalistes stiilides või segakeeltes.
Lisaks pakuvad need mudelid ohu konteksti ja intelligentset prioriseerimist . Kõik haavatavused ei vaja sama pingutust: internetiga kokkupuutuva kriitilise teenuse ärakasutatav viga omab palju suuremat kaalu kui sisemise tööriista viga. Tehisintellekt saab ristviiteid haavatavuse teabe, varade kriitilisuse, ärakasutamise ajaloo ja tegeliku konfiguratsiooni vahel, et seada hoiatuste tähtsuse järjekorda ja suunata meeskond sellele, mis on tõeliselt ohtlik.
Teine tugevus on pideva õppimise ja kohanemise võime . Ründajate taktika arenedes ja kodeerimisstiilide muutudes kohandatakse mudeleid, lisades uusi rünnakuvektoreid ja reaalsetest intsidentidest saadud reegleid. See muudab kaitsemehhanismid elavaks organismiks, mis kasvab koos tarkvara ökosüsteemiga.
Intsidentidele reageerimise valdkonnas võimaldab generatiivne tehisintellekt automatiseerida märkimisväärse osa esialgsetest toimingutest : sündmuste kategoriseerimine, reageerimisskriptide genereerimine, mõjutatud süsteemide isoleerimine, leevendussoovitused ning selgete aruannete loomine tehnilistele ja juhtimismeeskondadele. Kõik see vähendab reageerimisaega, hoiab ära vigu ja vabastab analüütikud korduvatest ülesannetest.
Generatiivseid mudeleid kasutatakse ka küberrünnakute simuleerimiseks ja meeskondade koolitamiseks realistlike stsenaariumidega. Tehisintellekt loob usutavaid andmepüügikampaaniaid, keerulisi rünnakujadasid ja anomaalseid käitumismustreid, mis sunnivad analüütikuid reageerima ja oma otsustusoskusi surve all parandama.
Pahavara ja tehisintellekt: hüpe, praegused piirangud ja võimalik areng
Koos kaitsva tehisintellekti esiletõusuga on tekkinud pahavara prototüübid, mis integreerivad keelemudeleid või kasutavad tehisintellekti teenuseid dünaamiliseks muutumiseks. Sellised katsed nagu BlackMamba, EyeSpy ja uss Morris II on näidanud, et on tehniliselt võimalik kasutada keelemodelleerimist (LM) pahatahtliku koodi genereerimiseks käitusajal, sihtmärkide hindamiseks või rünnakute levitamiseks süstitud juhiste kaudu.
Mitmed pöördprojekteerimise ja rünnakute vastase tegevuse eksperdid juhivad siiski tähelepanu sellele, et praegu on need näited pigem tehnilised kurioosumid kui ületamatud ohud . Nende demonstreeritud võimed – polümorfism, mälus teostamine, hägustamine ja sihtmärgi valimine – eksisteerisid juba täiustatud pahavaras ja neid saab praeguste kaitsevahenditega endiselt tuvastada.
Üks põhjus on see, et avalike andmete põhjal treenitud mudelite loodud kood kipub olema vähem keerukas kui oskusliku ründaja poolt spetsiaalselt kirjutatud kood . Õigekirja haldurid (LLM-id) tuginevad õpitud mustritele; nad ei leiuta tavaliselt täiesti uusi pahavara arhitektuure nullist ning toodavad sageli keskpäraseid, üleliigseid või kergesti võltsitavaid fragmente.
Lisaks peab tehisintellektil põhinev pahavara selleks, et see oleks tasuv, pakkuma arendajatele selget investeeringutasuvust . Nii nagu lunavara ja krüptokatmise puhul, ei toimu teatud tehnikate laialdast kasutuselevõttu enne, kui need on sujuvalt integreeritud legaalsesse tarkvarasse ja nende toetamiseks on olemas küps infrastruktuur.
Siiski nõustuvad eksperdid, et kui mudelid jätkavad praeguse tempoga täiustamist , jõuame punkti, kus need aitavad luua keerukamaid ja kohanemisvõimelisemaid ohte. Sellises stsenaariumis on vaja veelgi tugevdada inimeste järelevalvet, kaitsta mudeleid manipuleerimise eest ja tagada kogu tehisintellekti arendusprotsessi turvalisus.
Tehisintellekti täieliku elutsükli tagamine: andmed, mudelid ja torujuhe
Tehisintellekti loodud koodi küberturvalisusest rääkides ei piisa ainult repositooriumi vaatamisest: kaitsta tuleb kogu tehisintellekti torujuhet otsast lõpuni , alates andmete kogumisest kuni mudeli juurutamise ja hoolduseni.
Esimene sammas on treeningandmete ja -küsimuste kaitsmine ning turvaliste platvormide, näiteks avatud lähtekoodiga operatsioonisüsteemide valimine . Kui andmekogumid sisaldavad tundlikku, anonüümseks muutmata teavet või kui kasutajad kleepivad päringutesse saladusi ja isikuandmeid, on oht andmete lekkimiseks, volituste uuesti ilmumiseks vastustes või isegi ulatuslikeks andmete rikkumisteks, kui tehisintellekti pakkuja on ohustatud.
Teine sammas on mudelite ja algoritmide terviklikkus . Rünnakud, näiteks andmete mürgitamine, võivad treeningandmeid saastata ja väljundeid moonutada; teised vektorid püüavad ära kasutada järelduste API-de haavatavusi, et mudelit välja võtta või selle käitumist muuta. Oluline on säilitada ranged juurdepääsukontrollid, krüptimine, jälgimine ja pidev hindamine.
Kolmas osa on kogu torujuhtme juhtimine ja järelevalve . See hõlmab tehisintellekti kasutajate, nende eesmärkide, genereeritud koodi, kontrollide ja tulemuste integreerimise jälgimist. Ilma selle nähtavuseta levib varitehisintellekt ja riskijuhtimine muutub võimatuks.
Heade tavade hulka selles valdkonnas kuuluvad tugevad andmepoliitikad, tugev krüptimine, mitmefaktoriline autentimine, mudelitele juurdepääsu minimaalsete õiguste põhimõtted, viipades olevad piirded, kohustuslik käsitsi läbivaatamine ning sisendite, väljundite ja reaalse keskkonnamõju pidev jälgimine.
SHIELD raamistik: tehisintellekti abil programmeerimisele selgete piiride seadmine
Kõigi eelnevate praktiliste kontrollimeetmete rakendamiseks on mõned turvakonsultatsioonifirmad pakkunud välja konkreetsed raamistikud, et vähendada „vibe-kodeerimise“ riski . Üks põhjalikumaid on SHIELD-raamistik, mis võtab kuue tähega kokku tehisintellekti vastutustundliku kasutamise põhiprintsiibid arenduses.
SHIELD-i täht „S” tähistab ülesannete lahusust . See tähendab, et tehisintellekti agentidel ei tohiks olla segaõigusi, mis võiksid ulatuda tootmiskeskkondadesse. Mõistlik lähenemisviis on piirata nende ulatust arendus- ja testimisfunktsioonidega, ilma võimsate volituste või otsese juurdepääsuta reaalsetele andmebaasidele.
„H” tähistab inimest tsüklis . See tähendab, et tehisintellekti loodud koodi peab alati üle vaatama ja heaks kiitma kvalifitseeritud personal, eriti kui seda kasutavad mitteprofessionaalsed arendajad. Olulisi muudatusi ei tohiks ühendada ilma järelevalve all oleva pull-requestita.
„I“ tähistab sisendi ja väljundi valideerimist . Enne koodibaasi integreerimist on vaja selgelt eraldada usaldusväärsed juhised ebausaldusväärsetest andmetest, puhastada käsuviibad, kontrollida mudelilt nõutavaid toiminguid ja esitada tulemus tööriistadele nagu SAST.
„E” keskendub turvalisusele orienteeritud abimudelitele . Ühe universaalse abilise asemel on soovitatav seda täiendada spetsiifiliste tööriistadega salajase skaneerimise, juhtimise kontrollimise, SCA, fantoomsõltuvuse tuvastamise ja infrastruktuuri kui koodi konfiguratsiooni testimiseks.
„L“ viitab „vähima agentuuri “ põhimõttele. Tehisintellekti agendid peaksid töötama võimalikult väheste õigustega: juurdepääs tundlikele failidele puudub, hävitavatele käskudele on ranged piirangud ja kriitilistes keskkondades muudatuste automaatne teostamine on välistatud.
Lõpuks viitab „D” kaitsemeetmetele (Defensive Technical Controls) . Enne juurutamist on oluline käivitada SCA, keelata kõik automaatse juurutamise mehhanismid, mis takistavad inimese sekkumist, jõustada turvaastmetega torujuhtmed ja logida põhjalikult iga tehisintellekti soovitusest tulenev toiming.
Selliste raamistike eesmärk on midagi väga lihtsat: kasutada ära tehisintellekti pakutavat kiirendust ilma kontrolli loovutamata . Või otsekohesemalt öeldes panna assistent kirjutama rohkem ridu minutis, kuid jätta vastutus, kriteeriumid ja otsused inimmeeskonna kätte.
See kogu uus ökosüsteem – tehisintellekti poolt kiiresti genereeritava koodiga, mudelipõhiste kaitsemehhanismide, raamistike nagu SHIELD ja kiirustamise ning ettevaatlikkuse vahel lõhestatud kultuuriga – sunnib organisatsioone küpsema. Need, kes suudavad ühendada usaldusväärsed inseneritavad, pideva küberturvalisuse koolituse, range inimjärelevalve ja tehisintellekti intelligentse kasutamise, suudavad luua kiiresti toodetava, töökindla, turvalise ja ärieesmärkidega kooskõlas oleva koodi , langemata pelgalt kiirete operaatorite või pideva turvatulekahjude kustutamise lõksu.
