[Úñ má~rcó d~é pró~fésí~óñál~és dé~ ségú~rídá~d pár~á lá s~égúr~ídád~ ý lá p~róté~ccíóñ~ dé lá~ ÍÁ]
![[Á lóg~ó óf t~hé ÁÍ~ Sáfé~tý Sú~mmít~ 2023]](https://cdn.prod.website-files.com/63e25fb5e66132e6387676dc/67941d00cc5098072f9ff4b3_6554f002741260bf7831bcad_AI%2520summit%2520logo.png)
[Á príñcípíós dé ñóvíémbré, él Réíñó Úñídó ácógíó él Cúmbré dé ségúrídád dé ÍÁ, lá prímérá cúmbré múñdíál sóbré íñtélígéñcíá ártífícíál. Réúñíó á góbíérñós íñtérñácíóñálés ý éxpértós éñ ÍÁ párá cóñsídérár lós ríésgós dé lá ÍÁ ý cómó lós ésfúérzós cóórdíñádós íñtérñácíóñálméñté púédéñ áýúdár á mítígárlós. Éstá cúmbré sígúé lás díscúsíóñés múñdíálés sóbré lá ségúrídád dé lá ÍÁ, íñclúídó él récíéñté Órdéñ Éjécútívá dé lós Éstádós Úñídós sóbré él Désárrólló ý Úsó Ségúró ý Fíáblé dé lá ÍÁ.]
[Éspérábá vér úñ márcó éspécífícó ó díréctrícés párá lá ségúrídád dé lá ÍÁ sálír dé lá cúmbré, péró mé décépcíóñó ñó éñcóñtrár úñá óríéñtácíóñ táñgíblé. Éñ éstá éñtrádá dé blóg, déscríbó él típó dé márcó prócésáblé sóbré ségúrídád dé ÍÁ qúé éspérábá vér sálír dé lá cúmbré désdé mí pérspéctívá cómó prófésíóñál séñíór dé ségúrídád.]
[Ápró~véch~é lá ñ~óvéd~ád dé~ lá ÍÁ~ párá~ ábór~dár l~á ség~úríd~ád]
[Áñté~s dé é~xpóñ~ér él~ márc~ó, cré~ó qúé~ és ím~pórt~áñté~ dár ú~ñ pás~ó fíl~ósófí~có há~cíá á~trás p~árá é~ñtéñ~dér p~ór qú~é lá sé~gúrí~dád d~é lá Í~Á és ú~ñ tém~á táñ~ ímpó~rtáñ~té ý p~ór qú~é mé dé~cépc~íóñá~róñ t~áñtó~ lós r~ésúl~tádó~s dé l~á Cúm~bré d~é Ség~úríd~ád dé~ lá ÍÁ~ dé és~té áñó~.]
[És bástáñté évídéñté qúé lá máýóríá dé lás défícíéñcíás dé ségúrídád éñ lás técñólógíás dé réd áctúálés qúé útílízámós hóý éñ díá sé rémóñtáñ á débílídádés éñ lá fórmá éñ qúé lós prótócólós dé lós qúé dépéñdéñ sé díséñáróñ órígíñálméñté hácé décádás.]
[Lá sé~gúrí~dád ñ~ó fúé~ úñá c~óñsí~dérá~cíóñ í~ñící~ál. Éñ~ réál~ídád~, rárá~ véz l~ó és.]
[Tómémós pór éjémpló lós prótócólós órígíñálés párá wéb (HTTP), córréó (SMTP) ý tráñsféréñcíá dé árchívós (FTP). Tódós éstós fúéróñ díséñádós cómó téxtó pláñó síñ ñíñgúñ típó dé ségúrídád dé dátós á trávés dél cífrádó. Lós créádórés éñ ésé móméñtó ñó ímágíñábáñ úñ múñdó éñ él qúé lá báñcá, lá íñfórmácíóñ clíñícá dé lós pácíéñtés ó lá íñfórmácíóñ cóñfídéñcíál dé lós úsúáríós sé tráñsmítíríáñ líbré ý cóñvéñíéñtéméñté éñ tódó él múñdó á trávés dé éstós séñcíllós prótócólós dé réd.]
[Ló mísmó ócúrré cóñ él ésqúémá dé díréccíóñámíéñtó ÍPv4 créádó á príñcípíós dé lá décádá dé 1980 déscrító éñ lá públícácíóñ dél ÍÉTF (Íñtérñét Éñgíñééríñg Tásk Fórcé) RFC 791. ¿Qúíéñ húbíérá péñsádó éñ ésé móméñtó qúé él múñdó pódríá qúédársé síñ mílés dé míllóñés dé díréccíóñés ÍP díréccíóñáblés públícáméñté¿ Áúñ ásí, trátár dé póñér éñ évídéñcíá lá ségúrídád dé máñérá rétróspéctívá súélé sér táñtó úñ cúélló dé bótéllá cómó úñá táréá dísrúptívá.]
![[ÁÍ ñó~dés r~épré~séñt~éd íñ~ thé s~hápé~ óf á b~ráíñ~]](https://cdn.prod.website-files.com/63e25fb5e66132e6387676dc/67941d00cc5098072f9ff4aa_65b177c06846446f8b2a5f99_ai%2520brain%2520replacement%2520image.webp)
[ÍÁ géñérátívá cómó ChátGPT dé ÓpéñÁÍ, qúé márcá sú prímér áñívérsáríó dé díspóñíbílídád públícá ésté més: há móstrádó lós áváñcés éñ él ápréñdízájé áútómátícó ý lás cápácídádés dé ápréñdízájé prófúñdó. Ésté típó dé módéló dé léñgúájé gráñdé (LLM) púédé ímítár éñ gráñ médídá lás rédés ñéúróñálés dél cérébró húmáñó pór médíó dé Rédés Ñéúróñálés Ártífícíálés (ÁÑÑ). Pór prímérá véz, él múñdó há sídó téstígó dé lá cúlmíñácíóñ dé váríós cúérpós dé trábájó á ló lárgó dé lós áñós párá qúé lá ÍÁ sé vúélvá fácílméñté útílízáblé éñ ófértás cómó ChátGPT. Dé répéñté, íñclúsó lá pósíbílídád dé Íñtélígéñcíá Géñérál Ártífícíál (ÁGÍ) ý lá téórícáméñté múý súpéríór Súpér Íñtélígéñcíá Ártífícíál (ÁSÍ) púédé qúé ýá ñó séá úñá éxágérácíóñ dé lós títúlós dé fíccíóñ.]
[Débémós ápróvéchár él héchó dé qúé lá ÍÁ áúñ éstá ló súfícíéñtéméñté témpráñó éñ sú évólúcíóñ cómó párá cóñsídérár sú ségúrídád ý prótéccíóñ, éspécíálméñté cóñ lá hístóríá ý él bágájé dé lá créácíóñ dé rédés ý lá ségúrídád. Úñá cúmbré dé ségúrídád dé ÍÁ cómó lá dé ñóvíémbré dé 2023, ñó sóló débéríá hábér ábórdádó lós témórés síñó támbíéñ hábér dádó úñ pásó átrás párá éválúár lá ségúrídád dé lá ÍÁ fréñté á úñá vísíóñ hólístícá. Désáfórtúñádáméñté, ñó éstóý ségúró dé qúé éstó sé háýá lógrádó; ál méñós ñó ésá véz.]
[3 dómí~ñíós~ príñ~cípá~lés p~árá l~á pró~técc~íóñ ý l~á ség~úríd~ád dé~ lá ÍÁ~]
[Párá~ lá pr~ímér~á cúm~bré í~ñtér~ñácí~óñál~ próá~ctív~á ý pr~óáct~ívá s~óbré~ lá sé~gúrí~dád d~é lá Í~Á, ésp~éráb~á úñ p~ásó t~áñgí~blé d~é lá g~éópó~lítíc~á á lá~s géó~pólít~ícás~ párá~ ábór~dár l~ós sí~gúíé~ñtés~ dómí~ñíós~ príñ~cípá~lés:]
- [Désá~rról~ló, ád~míñí~strá~cíóñ ý~ úsó f~íñál~]
- [Ségú~rídá~d]
- [Étícá~ ý júr~ídícó~]
[Éstós dómíñíós éstáñ éñtrélázádós ý, pór ló táñtó, rélácíóñádós éñtré sí. Pór éjémpló, él désárrólló dé sólúcíóñés dé ÍÁ débé ábárcár lós dómíñíós étícós ý légálés párá fréñár lós próblémás dé órígéñ cómó él sésgó éñ lós dátós dé cápácítácíóñ ý lá cóñfígúrácíóñ dé cápás ócúltás dé lós sístémás dé ápréñdízájé prófúñdó. Ñó tódó ló qúé fúñcíóñá és ló córréctó. Ál mísmó tíémpó, áségúrár lá íñtégrídád dé lós dátós dé cápácítácíóñ ý él prócésó dé désárrólló débé íñclúírsé ló áñtés pósíblé éñ él prócésó.]

[Úñ má~rcó d~é ség~úríd~ád dé~ ÍÁ: ló~ qúé é~spér~ábá v~ér dé~ lá Cú~mbré~ dé Sé~gúrí~dád d~é lá Í~Á]
[Éñ cá~dá úñ~ó dé l~ós tr~és dó~míñí~ós, hé~ súgé~rídó~ úñá s~éléc~cíóñ d~é ést~áñdár~és ý m~árcó~s clá~vé pá~rá sé~r cóñ~sídé~rádó~s más á~ fóñd~ó, cúý~ó rés~últá~dó fí~ñál d~ébér~íá sér~ íñíc~íár g~rúpó~s éñf~ócád~ós á f~órmú~lár é~stós~ éstáñ~dáré~s ý má~rcós~:]
[Désá~rról~ló, ád~míñí~strá~cíóñ ý~ úsó f~íñál~]
- [Éstáñdárés ý márcó dé íñtérfáz: Díréctrícés ý éstáñdárés sóbré lá íñtérfáz dé ÍÁ éñtré díféréñtés próvéédórés ý lúégó éñtré próvéédórés ý úsúáríós fíñálés, símílár á lá ÁPÍ wéb cóñ JSÓÑ ý ÚSB-C párá díspósítívós físícós. Éstó púédé pérmítír úñá íññóvácíóñ áúñ más rápídá éñ múltíplés dómíñíós. Úñ búéñ éjémpló dé élló és ló qúé há héchó lá íñtérfáz Wí-Fí ý dé cómúñícácíóñ móvíl párá lá íññóvácíóñ técñólógícá éñ rélójés íñtélígéñtés, télévísórés, dróñés, áútómóvílés, ámbúláñcíás, étc.]
- [Éstáñdárés ý márcó dé díféréñcíácíóñ: Pólítícás qúé pérmítáñ lá détérmíñácíóñ ý díféréñcíácíóñ clárás éñtré lás óbrás ártístícás órígíñálés ý lás óbrás géñérádás pór ÍÁ, cómó lás qúé téñémós párá lá Géstíóñ dé Déréchós Dígítálés (DRM), lós déréchós dé áútór ý lás prótéccíóñés dé própíédád íñtéléctúál. Úñ áréá béñéfícíáríá ímpórtáñté sérá ábórdár lá désíñfórmácíóñ ý él cóñtéñídó éñgáñósó, cómó lás fálsífícácíóñés prófúñdás ý lá íñtérféréñcíá éléctórál, ál méñós á ñívél dé pródúctós básícós.]
- [Bréchá dé hábílídádés dé ÍÁ: Ábórdár lá bréchá dé hábílídádés éñ lás áréás clávé dél désárrólló dé ÍÁ, lá ádmíñístrácíóñ dé ÍÁ ý él úsó dé ÍÁ dé máñérá símílár á lós ésfúérzós éñ prógrámácíóñ dé cómpútádórás ý álfábétízácíóñ íñfórmátícá (íñclúídá lá édúcácíóñ dé ádúltós) éñ él áúgé témpráñó dé lá cómpútácíóñ pérsóñál hástá lá áctúálídád. Éstó tíéñé lá íñtéñcíóñ dé ñívélár él cámpó dé júégó táñtó párá él désárrólló ý úsó dé ÍÁ búéñá cómó málá ÍÁ públícítáríá.]
[Ségú~rídá~d]
- [Síñgúlárídád dé lás prótéccíóñés dé fórmá: Páútás ý prótéccíóñés párá fúsíóñár ÍÁ (cómó ChátGPT, ÍÁ dé vóz, ÍÁ dé récóñócímíéñtó dé ímágéñés, étc.) cóñ hárdwáré réál éñ úñá sólá fórmá, símílár á róbóts íñdústríálés ó róbóts húmáñóídés éñ él fútúró. Éñ últímá íñstáñcíá, díchá cápácídád lé dá á lá íñtélígéñcíá géñérál cápácídádés dé íñtéráccíóñ físícá dé ÍÁ éñ él múñdó físícó. Básícáméñté, áségúrársé dé qúé úñ róbót físícó típó ChátGPT ñúñcá éñcíéñdá á lós húmáñós ó fúñcíóñé mál dé úñá máñérá cátástrófícá. Ýá háý dívérsás ócúrréñcíás dóñdé lós róbóts íñdústríálés ý lós áútómóvílés áútóñómós háñ fálládó ý cáúsádó dáñós ó lá múérté á lós húmáñós.]
- [Ríésgó dé ÁÍ: Prótéccíóñés cóñtrá lós ríésgós qúé pláñtéá lá ÍÁ. ChátGPT ýá há móstrádó úsó málícíósó. Éstá áréá cóñsídérárá áméñázás cómó lá évólúcíóñ dé lás cárgás útílés málícíósás, lá vélócídád récórd dé déscúbrímíéñtó ý éxplótácíóñ dé vúlñérábílídádés, él fráúdé dé vóz ý phíshíñg, ý él sábótájé cómó él cómprómísó dé lós prócésós dé fábrícácíóñ ó lós átáqúés á lá cádéñá dé súmíñístró. ]
- [Ríésgó á ÁÍ: Prótéccíóñés cóñtrá lós ríésgós pláñtéádós párá lá própíá ÍÁ. Éstó íñclúýé lá éxplótácíóñ dél désárrólló dé ÍÁ, lós prócésós dé ápréñdízájé ý lós párámétrós dé sésgó. Sí bíéñ éxístéñ páútás dé étícá dé désárrólló, ségúrídád ý úsó dé ÍÁ, débéñ méjórársé ý méjórár lás práctícás dé ségúrídád áctúálés, cómó lá códífícácíóñ ségúrá, DévSécÓps ý SBÓMS éñ lá cádéñá dé súmíñístró. Ótró ládó dél cóñsúmó, téñémós pólítícás símílárés á lá léý dé mál úsó dé cómpútádórás, pólítícás dé ségúrídád dé lá cómpáñíá sóbré él úsó dé cómpútádórás ý pólítícás dé úsó jústó.]
[Étícá~ ý Lég~ál]
- [Étícá~ cívíc~á dé Í~Á: Étíc~á ý dí~réct~rícé~s sób~ré él~ úsó d~é ÍÁ é~ñ ésf~érás~ cómó~ él ré~cóñó~címí~éñtó~ fácí~ál ý é~l cóm~pórt~ámíé~ñtó d~él ús~úárí~ó cóñ~trá é~l móñ~ítór~éó dé~ émpl~éádó~s, él c~óñtr~ól ý c~úmpl~ímíé~ñtó d~él tr~áfícó~, ý él s~ísté~má dé~ júst~ícíá~ péñá~l.]
- [Étícá~ cíéñ~tífíc~á dé Í~Á: Étíc~á ý dí~réct~rícé~s sób~ré ló~ qúé s~é púé~dé út~ílíz~ár lá~ ÍÁ éñ~ térmí~ñós d~é cíé~ñcíá~ ý méd~ícíñ~á. Éjé~mpló~s dé é~lló s~óñ lá~ íñvé~stíg~ácíóñ~ géñét~ícá ý~ dé éñ~férm~édád~és, lá~ clóñ~ácíóñ~, étc.]
- [Étícá mílítár dé ÍÁ: Désárróllár úñ cóñjúñtó dé réglás dé cómprómísó típó Cóñvéñcíóñ dé Gíñébrá párá él úsó dé ÍÁ éñ ópérácíóñés cíñétícás, éspécíálméñté éñ ÍÁ áútóñómá. Éstó séríá pártícúlárméñté ímpórtáñté párá qúé lá ÍÁ tómé décísíóñés dé vídá ó múérté párá évítár lá pósíbílídád dé cóñsécúéñcíás ñó déséádás, cómó ásésíñátós éñ másá, úsó dé ármás qúímícás ó úñá détóñácíóñ ñúcléár ñó íñtéñcíóñádá.]
- [Márcó júrídícó dé ÍÁ: Díréctrícés ý ñórmás éñ tórñó á lás ímplícácíóñés júrídícás dé íñvólúcrár á lá ÍÁ éñ dívérsás sítúácíóñés légálméñté réléváñtés. Éstó pódríá íñclúír éscéñáríós cómó lá ñátúrálézá dé lás prúébás ádmísíblés éñ cásós légálés ó dé síñíéstrós dé ségúrós ý fíñáñzás ý cálcúlós dé ácéptácíóñ dé ríésgós.]
[Úñ má~rcó d~é ség~úríd~ád ý p~róté~ccíóñ~ dé ÍÁ~ és só~ló él~ cómí~éñzó~]
[És áléñtádór vér úñ fúérté éñfóqúé éñ él ríésgó dé lás áméñázás cíbérñétícás dé ÍÁ á éscálá glóbál. Úñ márcó dé ségúrídád dé ÍÁ és úñ prímér pásó éséñcíál párá cóñstrúír úñ fútúró dé ÍÁ íññóvádór péró ségúró. Péró éstó és sóló úñ púñtó dé pártídá. Ídéálméñté, débéríá hábér úñá séléccíóñ dé grúpós séléctós ý éñfócádós dé ÍÁ ý éxpértós éñ lá mátéríá dé lá íñdústríá qúé sé ásócíéñ párá désárróllár é ítérár éstáñdárés dé ségúrídád dé ÍÁ símílárés á lós dél Grúpó dé Trábájó dé Íñgéñíéríá dé Íñtérñét (ÍÉTF) ý lá Sólícítúd dé Cóméñtáríós (RFC).]
[És ímpórtáñté déstácár qúé támbíéñ débémós cóñsídérár cómó pódémós émpódérár á lás órgáñízácíóñés párá désárróllár résílíéñcíá cóñtrá átáqúés ímpúlsádós pór ÍÁ. Lá ÍÁ hácé qúé séá más fácíl ý rápídó párá lós délíñcúéñtés láñzár átáqúés. Lá méjór déféñsá és rédúcír lá “súpérfícíé dé ápréñdízájé” párá qúé háýá méñós ópórtúñídádés párá qúé lás cíbéráméñázás dé ÍÁ ápréñdáñ, ádáptéñ ý prógréséñ éñ él átáqúé.]
[Póñgá~sé éñ~ cóñt~áctó~ cóñ ñ~ósót~rós h~óý pá~rá sá~bér c~ómó ló~s dés~árró~llós~ éñ ÍÁ~ púéd~éñ áf~éctá~r lá c~íbér~ségú~rídá~d dé s~ú órg~áñíz~ácíóñ~.]