[Á Séc~úrít~ý Prá~ctít~íóñé~r’s Fr~áméw~órk f~ór ÁÍ~ Sáfé~tý áñ~d Séc~úrít~ý]

[Íñ éárlý Ñóvémbér, thé ÚK hóstéd thé ÁÍ Sáfétý Súmmít, thé fírst évér glóbál súmmít óñ ártífícíál íñtéllígéñcé. Ít bróúght tógéthér íñtérñátíóñál góvérñméñts áñd ÁÍ éxpérts tó cóñsídér thé rísks óf ÁÍ áñd hów íñtérñátíóñállý cóórdíñátéd éffórts cáñ hélp mítígáté thém. Thís súmmít fóllóws glóbál díscússíóñs áróúñd ÁÍ sáfétý, íñclúdíñg thé récéñt Ú.S. Éxécútívé Órdér óñ thé Sáfé, Sécúré, áñd Trústwórthý Dévélópméñt áñd Úsé óf ÁÍ.]  

[Í wás éxpéctíñg tó séé á spécífíc fráméwórk ór gúídélíñés fór ÁÍ sáfétý cómé óút óf thé súmmít — bút Í wás dísáppóíñtéd tó fíñd ñó táñgíblé gúídáñcé. Íñ thís blóg póst, Í’vé óútlíñéd thé kíñd óf áctíóñáblé fráméwórk óñ ÁÍ sáfétý thát Í hád hópéd tó séé cómé óút óf thé súmmít fróm mý pérspéctívé ás á séñíór sécúrítý práctítíóñér.]

[Táké~ ádvá~ñtág~é óf Á~Í’s ñé~wñés~s tó á~ddré~ss sá~fétý~ áñd s~écúr~ítý]

[Béfó~ré Í l~áý óú~t thé~ frám~éwór~k, Í th~íñk í~t’s ím~pórt~áñt t~ó ták~é á ph~ílós~óphí~cál s~tép b~áck t~ó úñd~érst~áñd w~hý ÁÍ~ sáfé~tý ís~ súch~ áñ ím~pórt~áñt t~ópíc~ áñd w~hý Í w~ás só~ dísá~ppóí~ñtéd~ bý th~é óút~cómé~s óf t~hís ý~éár’s~ ÁÍ Sá~fétý~ Súmm~ít.]  

[Ít’s q~úíté~ évíd~éñt t~hát m~óst ó~f thé~ sécú~rítý~ shór~tcóm~íñgs~ íñ th~é cúr~réñt~ ñétw~órk t~échñ~ólóg~íés w~é úsé~ tódá~ý cáñ~ últí~máté~lý bé~ trác~éd bá~ck tó~ wéák~ñéss~és íñ~ hów t~hé pr~ótóc~óls t~héý d~épéñ~d óñ w~éré ó~rígí~ñáll~ý árc~híté~ctéd~ décá~dés á~gó.]  

[Sécú~rítý~ wás ñ~ót áñ~ íñít~íál c~óñsí~dérá~tíóñ~. Íñ ré~álít~ý, ít r~árél~ý évé~r ís.]  

[Táké fór éxámplé thé órígíñál prótócóls fór wéb (HTTP), máíl (SMTP) áñd fílé tráñsfér (FTP). Thésé wéré áll désígñéd ás pláíñ téxt wíthóút áñý fórm óf dátá sécúrítý thróúgh éñcrýptíóñ. Thé créátórs át thé tímé díd ñót éñvíságé á wórld whéré báñkíñg, clíñícál pátíéñt íñfórmátíóñ, ór séñsítívé úsér íñfórmátíóñ wóúld áll bé fréélý áñd cóñvéñíéñtlý tráñsmíttéd ácróss thé glóbé víá thésé símplé ñétwórk prótócóls.]  

[Thé sámé ís trúé fór thé ÍPv4 áddréssíñg schémé créátéd íñ thé éárlý 1980s déscríbéd íñ thé ÍÉTF (Íñtérñét Éñgíñééríñg Tásk Fórcé) públícátíóñ RFC 791. Whó wóúld hávé thóúght át thé tímé thát thé wórld cóúld réálístícállý rúñ óút óf bíllíóñs óf públíclý áddréssáblé ÍP áddréssés¿ Évéñ só, trýíñg tó rétróspéctívélý bólt óñ sécúrítý týpícállý próvés tó bé bóth á bóttléñéck áñd á dísrúptívé úñdértákíñg.]  

[Géñérátívé ÁÍ súch ás ÓpéñÁÍ’s ChátGPT — whích márks íts fírst áññívérsárý óf públíc áváílábílítý thís móñth — hás shówcáséd thé ádváñcés íñ máchíñé léárñíñg áñd déép léárñíñg cápábílítíés. Thís týpé óf lárgé láñgúágé módél (LLM) cáñ lárgélý mímíc thé ñéúrál ñétwórks óf thé húmáñ bráíñ bý wáý óf Ártífícíál Ñéúrál Ñétwórks (ÁÑÑ). Fór thé fírst tímé, thé wórld hás wítñésséd thé cúlmíñátíóñ óf váríóús bódíés óf wórk óvér thé ýéárs tówárds ÁÍ bécómíñg réádílý úsáblé íñ ófféríñgs súch ás ChátGPT. Áll óf á súddéñ, évéñ thé póssíbílítý óf Ártífícíál Géñérál Íñtéllígéñcé (ÁGÍ) áñd thé théórétícállý fár súpéríór Ártífícíál Súpér Íñtéllígéñcé (ÁSÍ) máý ñót bé áñ éxággérátíóñ óf fíctíóñ títlés áñýmóré.]

[Wé múst táké ádváñtágé óf thé fáct thát ÁÍ ís stíll éárlý éñóúgh íñ íts évólútíóñ tó cóñsídér íts sáfétý áñd sécúrítý, éspécíállý wíth thé hístórý áñd bággágé óf ñétwórkíñg áñd sécúrítý. Áñ ÁÍ sáfétý súmmít líké thé óñé íñ Ñóvémbér 2023, shóúld’vé ñót óñlý áddrésséd féárs bút álsó tákéñ á stép báck tó ásséss ÁÍ sáfétý áñd sécúrítý ágáíñst á hólístíc víéw. Úñfórtúñátélý, Í’m ñót súré thís wás áccómplíshéd; át léást ñót thát tímé róúñd.]  

[3 príñ~cípá~l dóm~áíñs~ fór Á~Í sáf~étý á~ñd sé~cúrí~tý]

[Fór t~hé fí~rst-ó~f-á-kí~ñd, pr~óáct~ívé í~ñtér~ñátí~óñál~ súmm~ít óñ~ ÁÍ sá~fétý~ áñd s~écúr~ítý, Í~ éxpé~ctéd~ á táñ~gíbl~é móv~é fró~m géó~-pólí~tícs~ tó gé~ó-pól~ícíé~s tó á~ddré~ss th~é fól~lówí~ñg pr~íñcí~pál d~ómáí~ñs:]

• [Dévé~lópm~éñt, á~dmíñ~ístr~átíó~ñ, áñd~ éñd-ú~ságé~]
• [Sécú~rítý~]
• [Éthí~cs áñ~d lég~ál]

[Thésé dómáíñs áré íñtértwíñéd áñd, théréfóré, rélátéd tó éách óthér. Fór éxámplé, thé dévélópméñt óf ÁÍ sólútíóñs shóúld éñcómpáss thé éthícs áñd légál dómáíñs tó cúrb sóúrcé íssúés líké bíás íñ tráíñíñg dátá áñd híddéñ láýér cóñfígúrátíóñ óf déép léárñíñg sýstéms. Ñót évérýthíñg thát wórks ís thé ríght thíñg tó dó. Át thé sámé tímé, sécúríñg thé íñtégrítý óf thé tráíñíñg dátá áñd dévélópméñt prócéss shóúld bé íñclúdéd ás éárlý íñ thé prócéss ás póssíblé.]

[Áñ ÁÍ~ sáfé~tý fr~áméw~órk: W~hát Í~ hópé~d tó s~éé fr~óm th~é ÁÍ S~áfét~ý Súm~mít]

[Úñdé~r éác~h óf t~hé th~réé d~ómáí~ñs, Í’v~é súg~gést~éd á s~éléc~tíóñ~ óf ké~ý stá~ñdár~ds áñ~d frá~méwó~rks t~ó bé f~úrth~ér có~ñsíd~éréd~, thé é~ñd ré~súlt~ óf wh~ích s~hóúl~d bé t~ó íñí~tíát~é fóc~úséd~ gróú~ps áí~méd á~t fór~múlá~tíñg~ thés~é stá~ñdár~ds áñ~d frá~méwó~rks:]

[Dévé~lópm~éñt, á~dmíñ~ístr~átíó~ñ, áñd~ éñd-ú~ságé~]  

• [Íñtérfácíñg stáñdárds áñd fráméwórk: Gúídélíñés áñd stáñdárds óñ íñtérfácíñg ÁÍ bétwééñ dífféréñt véñdórs áñd théñ bétwééñ véñdórs áñd éñd úsérs, símílár tó wéb ÁPÍ wíth JSÓÑ áñd ÚSB-C fór phýsícál dévícés. Thís cáñ éñáblé évéñ fástér íññóvátíóñ ácróss múltíplé dómáíñs. Á góód éxámplé óf thís ís whát Wí-Fí áñd móbílé cómmúñícátíóñ íñtérfácíñg hás dóñé fór téchñólógý íññóvátíóñ íñ smárt wátchés, TVs, dróñés, cárs, ámbúláñcés, étc.]

• [Dífféréñtíátíóñ stáñdárds áñd fráméwórk: Pólícíés tó éñáblé thé cléár détérmíñátíóñ áñd dífféréñtíátíóñ bétwééñ órígíñál ártístíc wórks áñd ÁÍ-géñérátéd wórks súch ás wé hávé fór Dígítál Ríghts Máñágéméñt (DRM) cópýríghtíñg áñd íñtélléctúál própértý prótéctíóñs. Óñé ímpórtáñt béñéfícíárý áréá wíll bé tácklíñg mísíñfórmátíóñ áñd décéptívé cóñtéñt súch ás déép fákés áñd éléctíóñ íñtérféréñcé, át léást át thé cómmódítý lévél.]

• [ÁÍ skílls gáp: Áddréssíñg thé skílls gáp íñ thé kéý áréás óf ÁÍ dévélópméñt, ÁÍ ádmíñístrátíóñ, áñd ÁÍ úságé símílár tó thé éffórts íñ cómpútér prógrámmíñg áñd cómpútér lítérácý (íñclúdíñg ádúlt édúcátíóñ) íñ thé éárlý bóóm óf pérsóñál cómpútíñg tíll tódáý. Thís ís íñtéñdéd tó lévél thé pláýíñg fíéld fór bóth góód ÁÍ áñd bád ád ÁÍ dévélópméñt áñd úsé.]

[Sécú~rítý~]

• [Síñgúlárítý óf fórm prótéctíóñs: Gúídélíñés áñd prótéctíóñs fór mérgíñg ÁÍ (líké ChátGPT, vóícé ÁÍ, ímágé récógñítíóñ ÁÍ étc) wíth áctúál hárdwáré íñtó á síñglé fórm, símílár tó íñdústríál róbóts ór húmáñóíd róbóts íñ thé fútúré. Súch á cápábílítý últímátélý gívés géñérál íñtéllígéñcé ÁÍ phýsícál íñtéráctíóñ cápábílítíés íñ thé phýsícál wórld. Básícállý, mákíñg súré á ChátGPT-týpé phýsícál róbót ñévér túrñs óñ húmáñs ór málfúñctíóñs íñ á cátástróphíc wáý. Théré áré álréádý váríóús óccúrréñcés whéré íñdústríál róbóts áñd sélf-drívíñg cárs hávé málfúñctíóñéd áñd cáúséd hárm ór déáth tó húmáñs.]

• [Rísk fróm ÁÍ: Prótéctíóñs ágáíñst rísks póséd bý ÁÍ. ChátGPT hás álréádý shówñ málícíóús úsé. Thís áréá wíll cóñsídér thréáts súch ás évólvíñg málícíóús páýlóáds, récórd spééd vúlñérábílítý díscóvérý áñd éxplóítátíóñ, vóícé áñd phíshíñg fráúd, áñd sábótágé líké thé cómprómísé óf máñúfáctúríñg prócéssés ór súpplý cháíñ áttácks. ‍]
• [Rísk tó ÁÍ: Prótéctíóñs ágáíñst rísks póséd tó ÁÍ ítsélf. Thís íñclúdés thé éxplóítátíóñ óf ÁÍ dévélópméñt, léárñíñg prócéssés, áñd bíás párámétérs. Whílé ÁÍ dévélópméñt éthícs, sécúrítý, úságé gúídélíñés dó éxíst, théý ñééd tó bé béttéréd áñd ímpróvé úpóñ cúrréñt sécúrítý práctícés súch ás sécúré códíñg, DévSécÓps áñd SBÓMS íñ súpplý cháíñ. Óthér thé cóñsúmptíóñ sídé, wé hávé pólícíés ákíñ tó cómpútér mísúsé áct, cómpáñý sécúrítý pólícíés óñ cómpútér úsé, áñd fáír úságé pólícíés.]

[Éthí~cs áñ~d Lég~ál]  

• [ÁÍ cí~víc é~thíc~s: Éth~ícs á~ñd gú~ídél~íñés~ óñ ús~íñg Á~Í íñ s~phér~és lí~ké fá~cíál~ récó~gñít~íóñ á~ñd ús~ér bé~háví~ór ág~áíñs~t émp~lóýé~é móñ~ítór~íñg, t~ráff~íc có~ñtró~l áñd~ éñfó~rcém~éñt, á~ñd th~é crí~míñá~l jús~tícé~ sýst~ém.]

• [ÁÍ sc~íéñt~ífíc~ éthí~cs: Ét~hícs~ áñd g~úídé~líñé~s óñ w~hát Á~Í cáñ~ bé ús~éd tó~ dó íñ~ térm~s óf s~cíéñ~cé áñ~d méd~ícíñ~é. Éxá~mplé~s béí~ñg gé~ñétí~c áñd~ dísé~ásé r~éséá~rch, c~lóñí~ñg, ét~c.]

• [ÁÍ mílítárý éthícs: Dévélóp á Géñévá Cóñvéñtíóñ-týpé sét óf rúlés óf éñgágéméñt fór úsíñg ÁÍ íñ kíñétíc ópérátíóñs éspécíállý íñ áútóñómóús ÁÍ. Thís wóúld pártícúlárlý bé ímpórtáñt íñ ÁÍ tákíñg lífé-áñd-déáth décísíóñs tó prévéñt thé póssíbílítý óf úñíñtéñdéd cóñséqúéñcés súch ás máss múrdér, chémícál wéápóñs úsé, ór áñ úñíñtéñdéd ñúcléár détóñátíóñ.]

• [ÁÍ légál fráméwórk: Gúídélíñés áñd stáñdárds áróúñd thé légál ímplícátíóñs óf íñvólvíñg ÁÍ íñ váríóús légállý réléváñt sítúátíóñs. Thís cóúld íñclúdé scéñáríós súch ás thé ñátúré óf ádmíssíblé évídéñcé íñ légál cásés ór íñsúráñcé áñd fíñáñcé cláíms áñd rísk áccéptáñcé cálcúlátíóñs.]

[Áñ ÁÍ~ sáfé~tý áñ~d séc~úrít~ý frá~méwó~rk ís~ óñlý~ thé b~égíñ~ñíñg~]

[Ít’s éñcóúrágíñg tó séé á stróñg fócús óñ thé rísk óf ÁÍ cýbér thréáts óñ á glóbál scálé. Áñ ÁÍ sáfétý fráméwórk ís áñ ésséñtíál fírst stép tó búíldíñg áñ íññóvátívé ýét sáfé ÁÍ fútúré. Bút thís ís óñlý á stártíñg póíñt. Ídéállý, théré shóúld bé á séléctíóñ óf élíté, fócúséd gróúps óf ÁÍ áñd íñdústrý súbjéct máttér éxpérts whó pártñér tó dévélóp áñd ítéráté ÁÍ sáfétý stáñdárds símílár tó thé Íñtérñét Éñgíñééríñg Tásk Fórcé (ÍÉTF) áñd Réqúést fór Cómméñts (RFCs).]

[Ímpórtáñtlý, wé múst álsó cóñsídér hów wé cáñ émpówér órgáñízátíóñs tó búíld résílíéñcé ágáíñst ÁÍ-pówéréd áttácks. ÁÍ mákés ít éásíér áñd qúíckér fór crímíñáls tó láúñch áttácks. Thé bést déféñcé ís rédúcíñg thé “léárñíñg súrfácé” só thát théré ís léss óppórtúñítý fór ÁÍ cýbér thréáts tó léárñ, ádápt, áñd prógréss thé áttáck.]  

[Cóñt~áct ú~s tód~áý tó~ léár~ñ hów~ dévé~lópm~éñts~ íñ ÁÍ~ cáñ í~mpác~t ýóú~r órg~áñíz~átíó~ñ’s cý~bérs~écúr~ítý.]