| 요약 | - 새롭게 떠오르는 기술들이 많으나, 그 특징과 장점들이라는 것이 약이 될지 독이 될지 아무도 예측할 수 없음 |
| 내용 | - 최근 챗GPT(ChatGPT)라는 인공지능 기술이 일반인 사이에서 화제 > 오픈에이아이(Open AI)가 2022년 12월 1일 공개한 대화 전문 인공지능 챗봇 > Open AI에서 만든 대규모 인공지능 모델인 ‘GPT-3.5’ 언어 기술을 사용 - 딜로이트가 이와 관련하여 조사를 진행 > 90%의 응답자가 “신기술들의 발전과 활용을 위한 법적/윤리적 가이드라인이 부족한 것 같다”고 답변 - 산업 내 전문가들과 시장 분석가는 상반된 입장 > 가이드라인이 있다는 것을 종사자들조차 인지하지 못하고 있다는 것 > 신기술이기 때문에 예측 못한 결과들이 자꾸만 같이 나오고 있다는 것이 문제 > 현재 개발되고 있는 기술 하나하나에 상응하는 규정이나 윤리 가이드라인을 만드냐 마느냐를 문제 삼을 것이 아니라, 예측이 불가능한 것들을 예측할 수 있게 해 주는 구조적 원리를 고안해야 함 - HTTP 쿠키 기술의 발전 역사를 예시로 들 수 있음 > HTTP 쿠키: 사용자가 웹사이트에 방문할 때 각종 데이터와 활동 내용들을 기록하는 기술 > 사용자의 모든 행위를 임의로 기록한다는 것의 위험성이 쿠키 초창기에서부터 제기 > 사용자들이 이런 기록 행위에 동의를 해야만 한다는 인식이 사회적으로 생기고 그걸 기업들이 받아들이기 시작한 건 겨우 5년 - 문제는 규정의 부재가 아니라, 규정이 있다는 사실에 대한 인식의 부재 > 의외로 신기술 개발과 발전에 대한 가이드라인들이 존재하나 오래 전부터 있어 왔던 건 아니고 최근 들어 생겨나기 시작 > ‘미완성’ 혹은 ‘미성숙’ 기술들을 도입하는 속도가 전례를 찾기 힘들 정도_가이드라인 개발의 더딤이 더 크게 느껴지고, 그래서 가이드가 대부분 없다고 여김 > 신기술이 발명되는 것과 그 기술이 책임감 있게 사용되는 것의 간극이 너무 크고, 거기서부터 온갖 윤리적, 사회적 논의들이 나오고 있는 것 > 특정 기술을 개발한다고 했을 때 투명성과 설명 가능성을 처음부터 염두에 두고 설계를 하는 것이, 나중에 예상치 못한 결과가 나왔을 때 대처하는 것보다 나음 - 윤리적 딜레마가 생겨나는 데에는 몇 가지 중요한 요소가 있음 > 인공지능의 경우 비윤리적인 활용 문제, 데이터 프라이버시 문제, 편향성 문제를 고려_규정과 표준들도 세 가지 문제 안에서 마련 > ‘인공지능의 비윤리적 활용’이 사회에 미칠 수 있는 영향에 대해서는 충분히 논의되지 않음 > 기술의 활용이라는 것이 개발사나 사용자의 고유 권리라는 관념들이 존재 > 윤리학자와 철학가들을 초빙해 같이 논의를 이끌어 가는 것도 좋은 방법 - 가이드라인들은 찾아보면 생각보다 많으나 그것을 각 조직이 상황에 맞게 해석해 적용하는 것이 어렵다는 것 |
| 기타 | - 여러 국가들이 인공지능, 양자컴퓨터, 자율 주행 자동차와 같은 기술들을 제대로 활용하기 위한 각종 제도들을 고민 중 ① 세계 기술 정책 위원회(Technology Policy Council)의 ‘책임 있는 알고리즘 시스템의 원칙 선언(Statement on Principles for Responsible Algorithmic Systems)’ > 아홉 가지 원칙이 담겨져 있음 > 정당성과 역량, 피해의 최소화, 보안과 프라이버시, 투명성, 해석 가능성과 설명 가능성, 유지 가능성, 경쟁 가능성과 감사 가능성, 책임, 환경적 충격 최소화 ② 유럽평의회의 ‘인공지능법(Artificial Intelligence Act)’ > 인공지능의 윤리적인 개발을 위해 지역 전체에 영향을 주는 법적 장치를 마련하고자 한 건 이 인공지능법이 처음 ③ 세계경제포럼(WEF)의 ‘양자컴퓨팅거버넌스원칙(Quantum Computing Governance Principles)’ > 양자컴퓨터에 관한 가이드라인과 표준 ④ 미국의 ‘인공지능 권리장전(AI Bill of Rights)’ ⑤ 영국 데이터윤리혁신센터(Centre for Data Ethics and Innovation)의 ‘효과적인 인공지능 보장 생태계를 위한 로드맵(Roadmap to an effective AI assurance ecosystem)’ - 규정과 표준이 정해지면 혁신이 저해된다는 시각이 만연 > 오히려 위험한 낭떠러지에 떨어지지 말라는 안전 펜스와 같은 역할을 할 때가 더 많음 |
보안뉴스
챗GPT 등 떠오르는 신기술들은 많은데, 제어 장치는 마련돼 있나
새롭게 떠오르는 기술들이 넘쳐나고 있다. 여러 가지 특징과 장점들을 선보이고 있다. 다만 그 특징과 장점들이라는 것이 약이 될지 독이 될지 아무도 예측할 수 없다. 최근 챗GPT(ChatGPT)라는 인
www.boannews.com
'보안뉴스' 카테고리의 다른 글
| [패스워드리스 체험기] 네이버의 야심찬 선언 “비밀번호여, 이젠 안녕” (0) | 2023.02.08 |
|---|---|
| 챗GPT 활용한 악성 공격 실험 사례, 이미 여럿 존재한다 외 5건 (0) | 2023.02.08 |
| 구글 키워드 검색으로 노출되는 피싱 페이지 주의... 구글 애즈 악용한 공격 (0) | 2023.02.05 |
| LG유플러스, 디도스 공격으로 또 인터넷 장애... 11만명 개인정보 유출도 추가 확인 외 3건 (3) | 2023.02.05 |
| 하이브 랜섬웨어 일망타진한 국제 수사기관들, 피해자들도 구제 (1) | 2023.02.04 |