Yn y digidol oedran, we yn rhyngweithio gyda AI mwy a mwy yn aml% 2c a AI has ystod eang ceisiadau yn yn amrywiol fields, o smart cartrefi symudol ffôn ceisiadau. Among eu, chatbot has wedi croeso gan y cyhoedd ar gyfer ei ' n nodweddion cyfleus a effeithlon nodweddion, a has become A poeth maes o sylw.
P'un a yw'n it's OpenAI's ChatGPT, neu Google's Bard, these chatbots are wedi'u hyfforddi a rhyngweithio gyda defnyddwyr gan ddefnyddio ehangder symiau o data o y Rhyngrwyd.
Fodd bynnag% 2c have you ever considered that while you are happily and easily cyfathrebu gyda a chatbot, efallai fod yn dawel ysbïo ar eich cyfrinachau?
Sut gwneud AI chatbots infer defnyddiwr gwybodaeth?
A astudiaeth ddiweddar gan cyfrifiadur gwyddonwyr yn ETH Zurich found that a chatbot can infer gwybodaeth personol am defnyddiwr, fel lle maen nhw byw, hil, a more, seiliedig ar y cynnwys o eu sgyrsiau Ern y astudiaeth wedi bod yn adolygiad cyfoedion, mae'n raises newydd pryderon am preifatrwydd ar y Rhyngrwyd .
Y gallu LLMs i barnwr a cynhyrchu canlyniadau o cymhlethdod hyfforddiant data a algorithmau. Y model wedi'i hyfforddi ar a mawr swm o yn gyhoeddus data, gan gynnwys testun, lluniau, a mwy o y Rhyngrwyd. Ystodring y hyfforddiant, maen nhw dysgu sut echdynnu allweddi o y data a classify rhagfynegiad newydd testunau seiliedig ar rhai allweddi.
Mae'r ymchwil tîm defnyddio testun o Reddit swyddi yn sy'n defnyddwyr profi p'un a y LLM gallai yn gywir infer where they from. The ymchwil tîm, led gan Martin Vechev yn ETH Zurich, dod o hyd bod modelau wedi a disnerving gallu i guess accurate gwybodaeth am defnyddwyr seiliedig ar cyd-destunol neu ieithyddol ciwiau yn unig. AT y calon y fersiwn talu o Agored AI ChatGPT, GPT{}} is yn yn yn rhyfeddol cywir yn yn rhagfynegi A defnyddiwr's preifat gwybodaeth 85 i 95 y cant y amser.
Ar gyfer enghraifft, pan a defnyddiwr Soniadau % 22I am bob amser aros am bachyn troi yn an intersection" pryd cyfathrebu gyda a chatbot, hwn gwybodaeth gallai yn defnyddio gan y chatbot i in Ffynhonnell Traffig gweithredu unigryw Melbourne. Ar gyfer enghraifft, if defnyddiwr Soniadau yn sgwrs hynny maen nhw'n byw yn bwyty agos Efrog City, y chatbot can Dadansoddi y demograffeg o y ardal a infer bod ydych rhan fwyaf tebygol du.
Fodd bynnag% 2c hwn casgliad yw nid bob amser cywir, as yr un defnyddiwr's iaith a ymddygiad are unique. But it mae'n digon i sioe hynny AI modelau, hyfforddi ar mawr data, can eisoes act fel ditectifs, didynnu allwedd gwybodaeth o yn ymddangosol cliwiau.
Er llawer arbenigwyr yn eiriol bod cymdeithasol cyfryngau defnyddwyr dylai talu sylw i gwybodaeth diogelwch a nid rhannu rhy llawer hunaniaeth gwybodaeth ar-lein, cyffredin defnyddwyr yn yn yn aml anymwybodol hynny eu eu yn achlysurol lleferydd a camau gweithredu Mai datgelu eu preifatrwydd .
What should be done?
First, datblygwyr dylai blaenoriaethu preifatrwydd amddiffyn a llawn ystyried defnyddiwr preifatrwydd hawliau pryd dylunio a datblygu chatbots. Ar gyfer enghraifft, terfyn y cwmpas o casglu a defnyddiwr data, mabwysiadu amgryptio a anonymization technegau i amddiffyn diogelu defnyddiwr data, a datblygwyr can cyflwyniad preifatrwydd-amddiffyn algorithmau i terfyn chatbots' gallu i infer defnyddiwr gwybodaeth.
Yn ail% 2c y llywodraeth a rheoleiddwyr dylai cryfhau'r y goruchwyliaeth o preifatrwydd polisi o chatbots. Sicrwydd bod cwmnïau cydymffurfio â perthnasol deddfau a rheoliadau pryd casglu, defnyddio a rhannu data a darparu defnyddwyr gyda A dryloyw, interpretable a hygyrchedd preifatrwydd polisi.
Mae'r datblygu o AI chatbots wedi dod us hwylustod a hwyl, ond mae wedi dod newydd preifatrwydd bygythiadau. Os pob partïon gwaith gyda'i gilydd% 2c y ddau yn dechnegol a moesegol , we ni uchafswm manteision o AI tra lleihau its potensial risgiau.
Efallai ar ôl hwn "shock", we bydd fod mwy ofalus am hwn oes AI llawn o newidiadau a cyfleoedd, hynny gwyddoniaeth a technoleg can truly serve human beings.