ChatGPT ajutisest vestlusest on saanud tehisintellekti "inkognito režiim".See funktsioon on mõeldud neile, kes soovivad esitada tundlikke küsimusi, testida konfidentsiaalseid ideid või lihtsalt takistada konkreetse vestluse mõjutamist ülejäänud vestlustele. Kuid mida rohkem seda kasutatakse, seda rohkem tekivad kahtlused: kui privaatne see tegelikult on? Mida OpenAI salvestab? Kas süsteem suudab "mäletada" midagi, mida see väidetavalt ei salvesta?
Viimastel kuudel on ilmunud murelike kasutajate tunnistusi. kes väidavad, et on näinud ajutises vestluses sisestatud teavet tavalises vestluses uuesti ilmuvat, lisaks tehnilistele aruteludele selle üle, kuidas neid "lühiajalisi" andmeid hallatakse, näiteks Kaaspiloodi rikeSamal ajal selgitab OpenAI enda dokumentatsioon, et turvakaalutlustel säilitatakse koopiat 30 päeva. Kõik see on tekitanud segu huvist, segadusest ja umbusaldusest, mis tuleks rahulikult klaarida.
Mis täpselt on ChatGPT ajutine vestlus?
ChatGPT ajutine vestlus on privaatsuse suurendamiseks loodud "spetsiaalne" vestlusrežiim.Selle aktiveerimine käivitab seansi, mida ei salvestata teie tavalisse sirvimisajalukku ja OpenAI andmetel ei kasutata seda tehisintellekti mudelite treenimiseks. Praktikas on see samaväärne inkognito režiimiga brauserites nagu Chrome, Safari või Firefox, kuid rakendatakse vestlusassistendile.
Tavalises vestluses salvestatakse kõik teie vestlused teie kontole.Neid sõnumeid saab hiljem üle vaadata ja need moodustavad osa kontekstist, mis aitab vastuseid isikupärastada. Seevastu ajutistel vestlustel pärast seansi sulgemist enam järjepidevust pole: te ei saa neid jätkata ja need ei ilmu teie vestlusloendisse. Kasutaja vaatenurgast on idee selge: see, mida te seal ütlete, jääb sinna.
OpenAI enda ametlik abi kirjeldab seda režiimi kui vestlust, mis algab "nullist".Mudel ei näe teie varasemaid vestlusi ega pääse ligi varasematele mälestustele, kuigi see saab siiski rakendada teie isikupärastatud juhiseid, kui need on lubatud (näiteks vastuse toon või üldine kontekst teie tegevuse kohta). See eraldamine meenutab isikupärastamise kontseptsioone, näiteks Google'i isiklik intelligentsusmis haldavad eelistuste rakendamist kontekste segamata.
See eraldamine on eriti oluline, kuna ChatGPT õpib teie suhtlusestIga küsimus, iga üleslaaditud dokument ja iga detail, mida tavalistes vestlustes jagate, aitab mudeli käitumist tulevastes vestlustes täpsustada. Ajutine vestlus püüab seda teemat "katkestada" ja takistada ühel vestlusel järgnevaid vastuseid mõjutamast või vestlusajaloos nähtavaks jäämast.
Mis täpselt juhtub, kui aktiveerite ajutise vestluse?
Ajutise vestluse aktiveerimine käivitab rea selgeid muudatusi teie seansi haldamises.Kuigi esmapilgul on kasutus väga sarnane tavalise vestlusega, on sisuliselt olulisi erinevusi salvestusruumi, mälu ja mudeli treenimise osas.
Kui ajutine vestlus on aktiivne, toimub OpenAI teabe kohaselt järgmine. ja juba levitatud kirjeldused:
- Vestlus ei ilmu teie vestlusajaloosTe ei näe pealkirja ega sisu oma hiljutiste vestluste hulgas.
- ChatGPT ei "mäleta" seda vestlust tulevaste suhtluste jaoksSeda, mida sa seal ütled, ei kasutata kontekstina uuesti, kui sa hiljem tavavestluse juurde naased.
- Ajutise vestluse sisu ei lisata ChatGPT mällu. (kui teil on isikliku püsimälu funktsioon lubatud).
- Seanssi ei kasutata tehisintellekti mudelite püsivaks treenimiseks.Teisisõnu, see ei tohiks süsteemi siseneda nagu tavalised vestlused, kui annate selleks loa.
- OpenAI säilitab vestluse koopiat kuni 30 päeva turvalisuse ja vastavuse tagamiseks (kuritarvituste, pettuste, ebaseadusliku kasutamise jms tuvastamine) ja pärast seda perioodi eemaldab see sarnase lähenemisviisiga. Google'i ajutised pildid.
See kuni 30-päevane kopeerimisperiood on üks kõige rohkem muret tekitavaid punkte.Kuigi te ei pääse sellele ligi ja see ei ilmu teie liideses, on see ettevõtte serverites siiski piiratud aja olemas. Ametlik selgitus on tavaliselt see, et see ajavahemik on vajalik väärkasutuse uurimiseks, juriidilistele nõuetele vastamiseks ja elementaarse jälgitavuse säilitamiseks.
Seansi ajal käitutakse tüüpilise "otseavestluse" moodi.Mudel saab viidata sellele, mida sa paar sõnumit varem ütlesid, kasutades seda vahetu kontekstina ja genereerides sidusaid vastuseid. Aga niipea, kui sa ajutise vestluse sulged või sellest lahkud, katkeb see teema. Pole võimalust päevi hiljem tagasi tulla ja sealt jätkata, kus pooleli jäid.
Milleks ajutine vestlus ChatGPT-s tegelikult mõeldud on?
Ajutise vestluse kõige ilmsemaks kasutusviisiks on isiklike, tundlike või eriti delikaatsete teemade arutamine. Ja sulle on ebamugav, kui need teie toimikusse salvestatakse või neid mudeli treenimiseks kasutatakse. See hõlmab vestlusi tervise, rahanduse, töökonfliktide, pereprobleemide, äriideede väljatöötamise jms kohta.
Paljud kasutajad kasutavad seda just siis, kui nad on sunnitud jagama andmeid, mida nad eelistaksid mitte "salvestada".See võib olla isiklikku teavet sisaldav dokument, isikunimedega juriidiline tekst, konfidentsiaalne ametialane strateegia või üksikasjad, mis võivad tuvastada konkreetseid isikuid. Kuigi nullriski on võimatu, võimaldab ajutine vestlus teil seda kokkupuudet tavaliste vestlusruumide kasutamisega võrreldes vähendada.
Kuid on ka igapäevasemaid ja argisemaid kasutusviise, mis sobivad selle režiimiga väga hästi.Näiteks kui olete nädalaid ChatGPT-d teatud professionaalse stiili, tooni või lähenemisviisiga "treeninud", ei pruugi te soovida, et üks täiesti erinev küsimus seda isikupärastamist häiriks. Ajutine vestlus toimib neutraalse tsoonina: esitate oma küsimuse, saate vastuse ja see ei mõjuta teie ülejäänud kogemust.
See on kasulik ka siis, kui otsite vastuseid, mida teie varasemad vestlused ei mõjuta.Kui olete mitu päeva arutanud väga spetsiifilist teemat (näiteks oma tööprojekti) ja soovite äkki abi küsida millegi täiesti erinevaga (isiklik asi, juriidiline küsimus, pisut seotud tehniline probleem), tagab ajutine vestlus "tühja lõuendi", kus süsteemil puudub eelnev inerts.
Professionaalses ja ärikeskkonnas on sellel ajalisel lähenemisel veelgi rohkem tagajärgi.Arendusmeeskonnad, turundusosakonnad või konsultatsioonifirmad saavad ajutisi vestlusi kasutada kiirtestide, A/B-eksperimentide, vestlusagentide prototüüpide loomiseks või töövoogude läbitöötamiseks ilma, et see sisu seguneks "tõsiste" andmetega, mis treenivad tootmises kasutatavat mudelit.
Mida ajutine vestlus ei tee (ja millised on selle piirangud)
Üks levinumaid väärarusaamu on arvata, et ajutine vestlus on täiesti anonüümne ja jäljevaba režiim.See on peaaegu nagu räägiksid kohaliku mudeliga, mis eksisteerib ainult sinu arvutis. See pole nii. Kuigi see lisab tavaliste vestlustega võrreldes privaatsuskihte, on sellel selged piirangud, mida tuleks meeles pidada.
Esiteks, ajutine vestlus ei ole vestlus, mida saate hiljem jätkata.See on spetsiifiline, peaaegu "ühekordselt kasutatav". Kui mõne aja pärast tahad sama teema juurde kogu kontekstiga naasta, siis pole enam võimalik sealt jätkata, kus pooleli jäid: pead alustama nullist teises vestluses, olgu see siis ajutine või tavaline.
Samuti ei lase see teil oma plaani piirangutest mööda hiilida.Kui teie kontol on kindlad kasutuskvoodid, sõnumipiirangud, saadaolevad mallid või funktsioonid, kehtivad ajutisele vestlusele samad reeglid. See ei ole viis kontrollide, sisufiltrite ega turvapoliitikate eiramiseks.
Teine oluline aspekt on see, et kuigi ajutist vestlust ei kasutata mudelite treenimiseks,Vestlust võidakse nende 30 päeva jooksul ikkagi sisemiselt üle vaadata (näiteks turvaauditite või intsidentidele reageerimise eesmärgil). See tähendab, et tegemist pole 100% turvalise süsteemiga, kus keegi teine ei näe kunagi teie kirjutatut.
Lisaks on endiselt ebakindlust selle osas, mida täpselt tähendab „mudelite mittekoolitamine”.Ettevõtte tavapärane lubadus on, et neid andmeid ei kaasata üldisesse koolitusse ega kasutata globaalse mudeli täiustamiseks. Paljud kasutajad mõtlevad aga, kas neid saaks kasutada koondatud, anonüümsel kujul või sisemiseks testimiseks. See läbipaistvuse puudumine õhutab umbusaldust.
Kasutaja juhtum, kes nägi ajutisi vestlusandmeid uuesti ilmumas
Üks enim elevust tekitanud lugudest räägib kasutajast, kes kasutas ajutist vestlust uue idee kallal töötamiseks.Just seda ta ei tahtnud salvestada ega oma profiiliga seostada. Sel hetkel eeldas ta, et see, mida ta sel sessioonil ütles, jääb isoleerituks ja sellele ei järgne mingit järeltegevust.
Mõni päev hiljem hakkas ta tavalises vestluses küsima ideid oma Instagrami biograafia värskendamiseks.Tema jutu kohaselt hakkas süsteem pakkuma välja fraase ja detaile, mida ta üksi selles ajutises vestluses mainis, mis pani häirekellad tööle. Kui ta tehisintellektile otsesõnu ütles, et kasutab ajutise vestluse sisu, vabandas mudel, teatas, et on selle teabe oma mällu salvestanud, ja lubas kustutada kõik selle vestlusega seonduva.
See käitumine tekitas väga tõsise küsimuse: kas mudel ammutas tõesti teavet ajutisest vestlusest? Või kas ta lihtsalt „hallutsineeris“ ja andis üldiseid vastuseid, mida kasutaja tõlgendas kokkusattumustena? Mõjutatud pool ise tunnistas, et ametlik seletus rääkis mudeli veast (hallutsinatsioonist), mitte ajalise funktsiooni tahtlikust rikkumisest.
Murelikult võttis ta ühendust OpenAI toega.Vastuseks saadi, et nende süsteemide kohaselt tähendab vestluste kustutamine ja ajutise režiimi kasutamine seda, et andmeid ei salvestata ega kasutata mudelite treenimiseks. Tugimeeskond pakkus välja võimaliku segaduse ja selgitas, et mudelis võis olla teavet segamini aetud või detaile välja mõeldud, mis on õigusteaduse magistrantidel tavaline nähtus, kui nad püüavad olla kasulikud ilma piisavate andmeteta.
Kasutaja aga ei saanud sellest selgitusest ikka veel päris täpselt aru.Tal oli tunne, et detailid olid liiga spetsiifilised, et olla pelgalt kokkusattumus. Seejärel küsis tugiteenistus temalt konkreetseid näiteid, ajatempleid ja sõnumite täpseid fragmente, et nad saaksid edasi uurida. Ja siin põrkasid kokku kaks reaalsust: vajadus tehniliste tõendite järele ja kasutaja keeldumine jagada privaatseid andmeid, mida ta konkreetselt saladuses tahtis hoida.
OpenAI vastus ja kahtlused, mis jäävad püsima
OpenAI ametlik poliitika on selge: ajutisi vestlusandmeid ei kasutata mudelite treenimiseks ja andmed kustutatakse maksimaalselt 30 päeva pärast.Siiski võidakse selle aja jooksul koopia alles hoida turvalisuse, seadusjärgse vastavuse ja kuritarvituste avastamise eesmärgil. Toote vaatenurgast on sõnum see, et kui soovite täiendavat privaatsuskihti, kasutage ajutist vestluse funktsiooni ja kustutage oma vestlusajalugu siis, kui peate seda sobivaks.
Probleem on selles, et see lubadus on vastuolus paljude kasutajate tundega, et läbipaistvus on piiratud.Väliselt pole lihtsat viisi täpselt nende andmetega tehtava auditeerimiseks. Te ei saa armatuurlauale sisse logida ja vaadata, kuidas teie ajutisi vestlusi on hallatud, ega ka iseseisvalt kontrollida, et neid pole koolituse eesmärgil kasutatud.
Veelgi hullemaks teeb keelemudelite olemus kokkusattumuste mälestusteks eksitamise lihtsaks.Kui oled öelnud midagi väga spetsiifilist, aga mitte täiesti ainulaadset, võib mudel hiljem puhta keelelise tõenäosuse tõttu genereerida sarnase vastuse ja su aju võib tõlgendada nii, et see "mäletab" öeldut, kuigi tegelikult on tegemist vaid mustrite rekombineerimisega.
Mainitud juhul tunnistas OpenAI tugi isegi, et mudel "hallutsineeris", kui väitis, et oli selle teabe oma mällu lisanud.Teisisõnu, ChatGPT ise fabritseeris väite, et kasutas ajutisi vestlusandmeid ja kustutas need seejärel. Sellised mudeli valeväited tuletavad meelde, et mudeli sisemise toimimise selgitused ei ole alati usaldusväärsed: see jääb tekstigeneraatoriks, mitte läbipaistvaks diagnostikavahendiks oma süsteemi jaoks.
Võrdlus brauseri inkognito režiimiga
Kõige sagedamini korratud analoogia on Chrome'i ja selle kuulsa inkognito režiimiga.mida aastaid müüdi omamoodi nähtamatuks tegeva mantlina ja millel hiljem osutusid palju rohkem piiranguid, kui turundus väitis. See paralleel on pannud paljusid rääkima OpenAI "inkognito režiimi hetkest".
Veebibrauserites takistab inkognito režiim teie seadmel ajaloo, küpsiste või vormide salvestamist.See aga ei takista teie internetiteenuse pakkujal, külastataval veebisaidil ega teie ettevõttel (kui olete ettevõtte võrgus) teie tegevust salvestamast. Midagi sarnast juhtub ka ajutise vestlusega: see parandab privaatsust teie konto ja ajaloo seisukohast, kuid see ei tähenda, et andmed ei läbiks ettevõtte servereid või et ajaarvestust ei toimuks.
Suur erinevus seisneb selles, et siin ei riski me ainult oma sirvimisajaloogaaga ka keerukat teavet: äriideid, sisedokumente, professionaalseid strateegiaid, isikuandmeid või isegi konfidentsiaalset materjali. Seega on privaatsuse ootused palju kõrgemad ja igasugune vastuolu tekitab nii palju umbusaldust.
Need kahtlused on pannud mõned kasutajad väitma, et OpenAI privaatsus ja küberturvalisus on "lõtv".Eriti kui nad paluvad mõjutatud isikutel jagada konkreetseid andmeid võimalike vigade analüüsimiseks. Lõppkasutaja vaatenurgast võib vastus "saatke meile kõik, mis valesti läks, üksikasjalikult" olla vastuolus reaalsusega, et nad ei taha seda teavet kellegagi jagada.
Tehnilised ja ärilised tagajärjed: seanss vs püsiv salvestusruum
Tehnilisest vaatenurgast seisneb väljakutse seansi konteksti ja püsiva salvestusruumi selges eraldamises.See tähendab eristamist selle vahel, mida mudel peab reaalajas vastamiseks nägema (mida te talle sel hetkel saadate), ja selle vahel, mis hiljem profiili või treeningandmestiku osana salvestatakse.
Täiustatud vestlusplatvormide parimate tavade hulka kuulub andmete krüptimine seansi tasandil.Rakenda konfigureeritavaid säilituspoliitikaid ja säilita sündmuste jälgitavus. See võimaldab konkreetse vestluse ajal pakkuda isikupärastatud kogemusi ilma, et tundlik teave seguneks kasutaja või süsteemi püsiandmetega.
Ärikeskkonnas on ajutised vestlused eriti kasulikud tugiagentidele. Nad peavad meeles pidama, mis toimub konkreetse suhtluse käigus (näiteks kliendi kirjeldatud intsident), ilma et need andmed kontrollimatult ettevõtte üldisesse "aju" sisse lülituksid. See hõlmab ka kontseptsioonitõendeid, sisemisi pilootprojekte ja prototüüpe, mis on mõeldud tootmiskeskkonnast isoleerimiseks.
Kohandatud rakendusi arendavad ettevõtted kombineerivad sageli pilveteenuseid ajutise kontekstisalvestusegaSamuti on olulised anonüümimiskanalid ja auditeerimissüsteemid. Eesmärk on, et tehisintellekt pakuks kogu seansi vältel järjepidevaid vastuseid, ilma et peaks looma lõputut arhiivi kõigest öeldust. Selle integreerimine armatuurlaudade, analüüsivahendite ja isegi ärianalüütikaga nõuab arhitektuuri kujundamist nii skaleeritavust kui ka andmehaldust silmas pidades.
Samal ajal suruvad turvalisus ja regulatsioonid peale omaenda tegevuskavaKüberturvalisuse testimine, penetratsioonitestimine, süsteemi tugevdamine ja pidev juurdepääsu kontroll on tundlike andmete käitlemisel hädavajalikud, isegi kui need on teoreetiliselt "mööduvad". Turvakihi rike võib muuta ajutise vestluse sama tõsiseks lekete allikaks kui mis tahes püsiv andmebaas.
Kas kõik kaob tõesti 30 päeva pärast ära?
Üks suur küsimus, mida paljud inimesed küsivad, on see, kas on olemas kindlaid tõendeid selle kohta, et ajutised vestlusandmed kustutatakse täielikult. Pärast neid 30 päeva neid enam "mingil moel" ei kasutata. Praegu on aus vastus see, et me sõltume usaldusest ettevõtte sise-eeskirjade ja seaduste vastu, mis nõuavad nende järgimist.
Kasutajakontolt kustutamist ei ole võimalik avalikult otse auditeerida.Sa ei saa avada armatuurlauda, mis näitaks, kuidas iga vestlus on kustutatud, ega ole ka allalaaditavat aruannet, mis kirjeldaks andmete hävitamist. Praktikas on see lepinguline lubadus: OpenAI väidab end seda tegevat ja kui ta seda ei tee, seisab ta silmitsi oluliste juriidiliste ja maineprobleemidega.
Kasutajatele, kes on privaatsuse pärast väga mures, ei pruugi sellest piisata.Tegelikult eelistaksid mõned inimesed kasutada ainult kohalikke mudeleid (LLM-e, mis töötavad nende endi arvutis), et omada täielikku kontrolli andmete salvestamise koha üle. Probleem, nagu paljud välja toovad, on see, et kodune riistvara ei ole alati ülesande kõrgusel: kõige võimsamad mudelid vajavad väga nõudlikke masinaid ning tagasihoidlike seadmete puhul muutub kogemus aeglaseks ja piiratuks.
Samal ajal jääb ChatGPT paljude jaoks parima kvaliteediga vastuseid pakkuvaks valikuks.See nõuab teatud tasakaalu: kasutada seda selleks, mis annab kõige rohkem väärtust, kuid reservatsioonidega jagada teavet, mida nad ei soovi oma lähiringist lahkuda. Ajutine vestlus leevendab osa sellest hirmust, kuid ei kõrvalda seda täielikult.
Seda reaalsust arvestades on praktiline soovitus kokkupuute vähendamiseks tavaliselt ajutist vestlust kasutada.Väldi andmete saatmist, mida sa ei jagaks ühegi teise võrguteenusega, ja kui tundlikkuse tase on äärmuslik, kaalu tõsiselt kohapealseid lahendusi või kohalikke mudeleid, isegi kui need on kulukamad ja jõudlus halvem.
Lühidalt öeldes on ChatGPT ajutine vestlus kasulik tööriist tundlike vestluste eraldamiseks igapäevasest kasutamisest.See ei ole aga absoluutne anonüümsuse garantii ega imerohi kõigile privaatsusprobleemidele. See aitab vältida teatud teemade mõjutamist teie tulevastes vestlustes, nende salvestamist teie ajalukku ja mudeli treenimist, kuid seejuures tuleb aktsepteerida, et need jäävad OpenAI serveritesse kuni 30 päevaks vastavalt nende endi turva- ja vastavusreeglitele.
