[ÁÍ 안전 및 보안을 위한 보안 실무자의 프레임워크]

[11월 초, 영국은 ÁÍ 세이프티 서밋인공 지능에 관한 최초의 글로벌 서밋입니다.국제 정부와 ÁÍ~ 전문가들이 한자리에 모여 ÁÍ의 위험과 국제적으로 조율된 노력이 이러한 위험을 완화하는 데 어떻게 도움이 될 수 있는지 생각해 보았습니다.이번 서밋은 최근 논의를 포함하여 ÁÍ~ 안전에 관한 글로벌 논의에 따른 것입니다. ÁÍ의 안전하고 보안되며 신뢰할 수 있는 개발 및 사용에 관한 미국 행정명령.]

[정상 회담에서 ÁÍ 안전을 위한 구체적인 프레임워크나 지침이 나올 것으로 예상했지만 실질적인 지침을 찾지 못해 실망했습니다.이번 블로그 게시물에서는 수석 보안 실무자인 제 관점에서 이번 회담에서 기대했던 ÁÍ~ 안전에 관한 실행 가능한 프레임워크의 종류에 대해 간략히 설명했습니다.]

[ÁÍ의 새로움을 활용하여 안전 및 보안 문제를 해결하세요]

[프레임워크를 제시하기 전에 철학적으로 한 발 물러서서 ÁÍ 안전이 왜 그렇게 중요한 주제인지, 그리고 올해 ÁÍ~ Sáfé~tý Sú~mmít~의 결과에 왜 그렇게 실망했는지 이해하는 것이 중요하다고 생각합니다.]

[오늘날 우리가 사용하는 네트워크 기술의 보안 결점 대부분은 궁극적으로 수십 년 전에 해당 기술이 의존하는 프로토콜이 원래 어떻게 설계되었는지에 대한 약점에서 찾을 수 있음이 분명합니다.]

[보안은 초기 고려 사항이 아니었습니다.실제로 이런 경우는 거의 없습니다.]

[웹 (HTTP~), 메일 (SMTP~) 및 파일 전송 (FTP) 의 원래 프로토콜을 예로 들어 보겠습니다.이들 모두 암호화를 통한 어떠한 형태의 데이터 보안도 없이 일반 텍스트로 설계되었습니다.당시 개발자들은 은행, 임상 환자 정보 또는 민감한 사용자 정보가 모두 이러한 단순한 네트워크 프로토콜을 통해 전 세계로 자유롭고 편리하게 전송되는 세상을 상상하지 못했습니다.]

[ÍÉTF~ (인터넷 엔지니어링 태스크 포스) 간행물에 설명된 대로 1980년대 초에 만들어진 ÍPv4 주소 지정 체계도 마찬가지입니다. R~FC 791.공개적으로 주소 지정이 가능한 수십억 개의 ÍP~ 주소가 현실적으로 부족해질 것이라고 당시에는 누가 상상이나 했을까요¿그럼에도 불구하고 보안을 소급하여 강화하려는 시도는 일반적으로 병목 현상이자 파괴적 사업으로 판명됩니다.]

[이를 대표하는 Ópéñ~ÁÍ의 Ch~átGP~T와 같은 제너레이티브 ÁÍ 첫 번째 기념일 이번 달 공개 현황 — 머신 러닝 및 딥 러닝 기능의 발전을 선보였습니다.이러한 유형의 대형 언어 모델 (L~LM) 은 인공 신경망 (ÁÑ~Ñ) 을 통해 인간 두뇌의 신경망을 거의 모방할 수 있습니다.전 세계는 처음으로 Chá~tGPT~와 같은 제품에서 ÁÍ를 쉽게 사용할 수 있도록 하기 위한 다양한 노력이 수년에 걸쳐 절정에 달한 것을 목격했습니다.갑자기 인공 일반 지능 (ÁG~Í) 과 이론적으로 훨씬 뛰어난 인공 슈퍼 지능 (ÁSÍ~) 의 가능성조차 더 이상 소설 제목의 과장이 아닐 수도 있습니다.]

[우리는 ÁÍ가 아직 진화 초기라는 사실을 활용하여 ÁÍ~를 고려해야 합니다. 안전 및 보안특히 네트워킹과 보안의 역사와 어려움과 관련해서 말이죠. 2023년 11월과 같은 ÁÍ 안전 서밋은 두려움을 해소할 뿐만 아니라 한 발 물러서서 전체론적 관점에서 ÁÍ~ 안전과 보안을 평가했어야 했습니다.안타깝게도 이 목표가 달성되었는지는 잘 모르겠습니다. 적어도 그 기간에는 그렇지 않았습니다.]

[ÁÍ 안전 및 보안을 위한 3가지 주요 영역]

[ÁÍ 안전 및 보안에 관한 최초의 사전 예방적 국제 정상 회담에서 저는 다음과 같은 주요 영역을 다루기 위해 지정학에서 지리 정책으로 실질적인 전환이 이루어질 것으로 기대했습니다.]

• [개발, 관리 및 최종 사용]
• [보안]
• [윤리 및 법률]

[이러한 도메인은 서로 얽혀 있으므로 서로 관련되어 있습니다.예를 들어, ÁÍ 솔루션 개발에는 교육 데이터의 편향성 및 딥 러닝 시스템의 숨겨진 계층 구성과 같은 소스 문제를 억제하기 위한 윤리 및 법적 영역이 포함되어야 합니다.효과가 있는 모든 것이 옳은 일은 아닙니다.동시에 교육 데이터 및 개발 프로세스의 무결성 확보도 프로세스 초기에 가능한 한 빨리 포함시켜야 합니다.]

[ÁÍ 안전 프레임워크: ÁÍ~ 안전 서밋에서 보고 싶었던 것]

[세 가지 영역 각각에서 저는 추가로 고려해야 할 주요 표준과 프레임워크를 선택할 것을 제안했으며, 그 최종 결과는 이러한 표준과 프레임워크를 수립하는 것을 목표로 하는 집중 그룹을 시작하는 것이어야 합니다.]

[개발, 관리 및 최종 사용]

• [인터페이스 표준 및 프레임워크: 물리적 디바이스용 JSÓÑ~ 및 ÚSB-C~를 사용하는 웹 ÁPÍ와 마찬가지로 여러 공급업체 간, 그리고 벤더와 최종 사용자 간의 Á~Í 인터페이스에 관한 지침 및 표준입니다.이를 통해 여러 도메인에서 훨씬 더 빠른 혁신이 가능해질 수 있습니다.스마트 워치, TV, 드론, 자동차, 구급차 등의 기술 혁신을 위해 W~í-Fí 및 모바일 통신 인터페이스가 어떤 역할을 했는지 그 좋은 예가 될 수 있습니다.]

• [차별화 표준 및 프레임워크: 디지털 저작권 관리 (DRM) 저작권 및 지적 재산권 보호를 위해 당사가 보유한 것과 같이 원본 예술 작품과 Á~Í 생성 저작물을 명확하게 결정하고 구분할 수 있도록 하는 정책.중요한 수혜자 영역 중 하나는 적어도 상품 수준에서는 딥 페이크 및 선거 간섭과 같은 잘못된 정보와 기만적인 콘텐츠를 해결하는 것입니다.]

• [ÁÍ 기술 격차: 오늘날까지 개인용 컴퓨팅의 초기 호황기에 컴퓨터 프로그래밍 및 컴퓨터 활용 능력 (성인 교육 포함) 에 대한 노력과 유사하게 ÁÍ~ 개발, ÁÍ 관리 및 ÁÍ~ 사용과 같은 주요 영역의 기술 격차를 해결합니다.이는 좋은 ÁÍ와 나쁜 ÁÍ~ 개발 및 사용을 위한 공평한 경쟁의 장을 마련하기 위한 것입니다.]

[보안]

• [양식 보호의 특이성: ÁÍ (예: Ch~átGP~T, 음성 ÁÍ, 이미지 인식 Á~Í 등) 를 실제 하드웨어와 단일 형태로 병합하기 위한 지침 및 보호. 이는 미래의 산업용 로봇 또는 휴머노이드 로봇과 유사합니다.이러한 기능은 궁극적으로 일반 지능 ÁÍ에 물리적 세계에서의 물리적 상호 작용 기능을 제공합니다.기본적으로 C~hátG~PT 유형의 물리 로봇이 사람을 공격하거나 치명적인 방식으로 오작동을 일으키지 않도록 하는 것입니다.산업용 로봇과 자율 주행 자동차가 오작동을 일으켜 사람에게 해를 입히거나 사망을 초래한 사례는 이미 다양합니다.]

• [리스크 ...에서 아이: ÁÍ로 인한 위험으로부터 보호합니다.Ch~átGP~T는 이미 악의적인 사용을 보여왔습니다.이 영역에서는 진화하는 악성 페이로드, 기록 속도, 취약점 발견 및 악용, 보이스 및 피싱 사기, 제조 프로세스 침해나 공급망 공격과 같은 방해 행위와 같은 위협을 고려할 것입니다. ‍]
• [리스크 에 아이: ÁÍ 자체에 가해지는 위험으로부터 보호합니다.여기에는 ÁÍ~ 개발, 학습 프로세스 및 편향 매개변수의 악용이 포함됩니다.ÁÍ 개발 윤리, 보안, 사용 지침은 존재하지만 공급망의 보안 코딩, Dé~vSéc~Óps 및 S~BÓMS~와 같은 현재의 보안 관행을 기반으로 개선되고 개선되어야 합니다.기타 소비 측면에서는 컴퓨터 오용 행위와 유사한 정책, 컴퓨터 사용에 대한 회사 보안 정책, 공정 사용 정책이 있습니다.]

[윤리 및 법률]

• [ÁÍ 시민 윤리: 직원 모니터링, 교통 통제 및 단속, 형사 사법 제도에 대한 안면 인식 및 사용자 행동과 같은 분야에서의 ÁÍ~ 사용에 관한 윤리 및 지침.]

• [ÁÍ 과학 윤리: 과학 및 의학 측면에서 ÁÍ~를 사용하여 수행할 수 있는 작업에 대한 윤리 및 지침.유전학 및 질병 연구, 복제 등을 예로 들 수 있습니다.]

• [ÁÍ 군사 윤리: 키네틱 오퍼레이션, 특히 자율 ÁÍ~에서 ÁÍ를 사용하기 위한 제네바 컨벤션 유형의 참여 규칙 세트를 개발하세요.이는 대량 학살, 화학 무기 사용 또는 의도하지 않은 핵폭발과 같은 의도하지 않은 결과가 발생할 가능성을 방지하기 위해 ÁÍ~가 생사를 가르는 결정을 내리는 데 특히 중요합니다.]

• [ÁÍ 법률 프레임워크: 다양한 법적 관련 상황에서 ÁÍ~를 사용하는 것이 법적으로 미치는 영향에 관한 지침 및 표준.여기에는 법적 소송이나 보험 및 금융 청구에서 허용되는 증거의 특성, 위험 수용 계산과 같은 시나리오가 포함될 수 있습니다.]

[ÁÍ 안전 및 보안 프레임워크는 시작에 불과합니다]

[전 세계적으로 ÁÍ 사이버 위협의 위험에 초점을 맞추고 있다는 점은 고무적입니다.ÁÍ~ 안전 프레임워크는 혁신적이면서도 안전한 ÁÍ 미래를 구축하기 위한 필수 첫 단계입니다.하지만 이는 시작점일 뿐입니다.이상적으로는 인터넷 엔지니어링 태스크 포스 (ÍÉ~TF) 및 의견 요청 (RF~C) 과 유사한 ÁÍ 안전 표준을 개발하고 반복하기 위해 협력하는 Á~Í 및 산업 주제 전문가로 구성된 엘리트 집단이 있어야 합니다.]

[중요한 것은 조직에 다음과 같은 권한을 부여할 수 있는 방법도 고려해야 한다는 것입니다. 탄력성 구축 ÁÍ 기반 공격에 대응합니다.ÁÍ~를 사용하면 범죄자가 더 쉽고 빠르게 공격을 시작할 수 있습니다.최선의 방어 수단은 ÁÍ 사이버 위협이 공격을 학습하고, 적응하고, 진행할 기회를 줄이기 위해 “학습 표면”을 줄이는 것입니다.]

[오늘 저희에게 연락하세요 ÁÍ 개발이 조직의 사이버 보안에 어떤 영향을 미칠 수 있는지 알아보십시오.]