세계 각국은 데이터 주권을 강화하고 있다. 외국 기업의 데이터 현지 보관을 의무화 하는 법을 추진하고 있다.
대표적인 사례가 중국의 데이터 안전법 31조이다. (중국 내 주요 정보기반시설 사업자에 의해 수집·생성되는 중요 데이터의 해외 이전은 네트워크 안전법에 의해 규제되며, 기타 프로세서에 의해 수집·생성되는 중요 데이터의 해외 이전은 별도 규칙에 의해 규제된다.)
한국인터넷진흥원(KISA)은 11일 발표한 ‘2023 개인정보 7대 이슈’에서도 데이터 현지화와 국경간 자유로운 데이터 이전 문제가 올해 첨예한 관심사로 떠오를 것이라고 전망했다.
OECD의 디지털경제정책위원회(CDEP) 산하 데이터 거버넌스와 프라이버시 그룹(WPDGP)는 ‘국가간 개인정보 보호 법 집행 협력’과 ‘신뢰할 수 있는 자유로운 데이터 흐름’을 논의하고 있으며, 지난해부터 데이터 현지화 이슈를 논의하기 위해 전문가 자문그룹을 운영하고 있다.
우리나라는 개인정보보호위원회, KISA를 중심으로 예상 진출 국가에 대한 규제 대응을 위한 개인접보보호 법률상담을 지원한다.
메타는 개인정보 수집 동의하지 않으면, 서비스 이용 불가능 내용의 약관 변경을 시도하였으나, 비판에 철회하였다. 그러나, 이용자 동의 없이 개인정보 수집으로 온라인 맞춤형 광고에 사용하고 있다.
다양한 AI 도구들의 등장으로 AI 생성 글과 가짜 동영상이 사회적 우려를 낳고 있다. AI를 사용하여 작성한 글과 동영상을 식별할 수 있는 도구에 대하여 23년 1월 10일자 기사로 소개하고 있다.
허깅페이스가 만든 웹사이트. 50단어 이상 글을 입력하면 AI, 혹은 사람에 의하여 작성한 것인지를 알려준다. GPT-2 버전은 확인 가능하나, 그 이후 버전에서는 판별을 하지 못한다.
GPT제로'. 미 프린스턴 대학교 학생 에드워드 티안이 만든 도구이다. 이 도구 또한 GPT-2 기반으로 한계가 있다.
Fakecatcher. 인텔이 개발한 딥페이크 영상탐지 도구이다. 2022년 11월 출시하였다. 1000분의 1초 안에 딥페이크 여부를 판정한다. 사람 얼굴에서 혈류 탐지 기술을 사용한다
한국부동산원은 ‘신규 청약 데이터’ 6종을 추가 개방한다.
현재 한국부동산원은 청약홈 시스템을 운영하고 있다.
아파트 분양정보, 청약통장 가입 현황등의 다양한 주택청약 정보를 제공하고 있다.
추가 개방정보는 신청자 현황 2종과 당첨자 현황 6종이다.
금융위원회는 많은 기업들이 데이터를 널리 활용할 수 있도록 2022년 8월 ‘신용정보법’을 개정하여 가명정보를 허용하는 제도적 장치를 마련하였다.
정부 지정 ‘데이터 전문 기관’을 통해 기업간 데이터 결합을 지원하고, 가명정보 결합을 허용한 조치이다.
카드사들은 데이터 기반의 다양한 새로운 서비스가 가능하다고 판단하여 참여를 신청한 결과 신한‧삼성‧BC카드가 예비 지정을 받았다.
이들 기관들은 카드사의 데이터와 소비 데이터의 결합을 통하여 새로운 가치를 창출할 수 있을 것이라 생각하고 있다.
AI의 성능이 좋아지고 있으며, 이에 따라 위협을 받고 있는 직업군들이 있다. 인터넷 매체 기즈모도가 이야기하는 직업 8가지는 다음과 같다.
예술가: OpenAI의 DALL-E, Midjourney, Stable Diffusion 등 텍스트-이미지 생성 AI가 등장하였다. 이들 시스템의 능력은 전통적 예술가들에 대한 심각한 위협으로 다가오고 있다.
고객 서비스직: OpenAI의 ChatGPT는 사람과 대화를 하거나 글을 쓰는 능력을 보여주고 있다. 현재 웹사이트에서 고객 응대를 위하여 챗봇을 사용하기도 하지만, 복잡한 문제는 인간이 필요하다. 그러나 시스템이 더욱 정교해 질수록 필요 인력은 줄어들 것이다.
카피라이터: 이미 ChatGPT를 이용한 카피라이트 작성의 사례들이 유투브에 올라오고 있다. 무료 AI 카피라이팅을 하는 존스 AI도 있다.
변호사: AI는 신속한 법률조사를 수행할 수 있다. AI의 사용은 설득력 있는 방식으로 이야기를 만들어 낼 수 있으며, 시간과 비용도 절감할 수 있다. DoNotPay의 챗봇은 실제 법정에서 교통위반 소송 변호를 맡을 예정이다.
과학자: 앞으로도 과학자 자체는 필요하지만, 가까운 미래에 과학저술 활동들이 자동화 될 수 있다.
컴퓨터 프로그래머: 최근 ChatGPT의 주요 기능 중 하나는 코딩의 특정 부분을 자동화 할 수 있다는 것을 보여주고 있다. 물론 아직 프로그래머가 해야 할 부분이 더욱 많이 남아 있는 것은 사실이다.
인플루언서 및 패션 모델: CG와 AI가 이들 분야에 진출을 하고 있다. 유명인 대신 디지털 모델을 사용하기 시작하고 있다. 이제, AI 생성 패션 아이콘이 미래 인간을 대체할 수 있다.
기자: 이미, 소프트웨어에 의하여 기사들이 작성되고 있다. 날씨, 스포츠, 비즈니스 등의 분야에서 AI 알고리즘을 이용한 기사들이 작성되고 있다.
OpenAI의 ChatGPT의 유료화 버전이 출시될 예정이다. OpenAI사는 ChatGPT Pro라는 이름의 유료버전을 공개하고, 신청자를 받기 시작하였다.
예술계는 AI 등장으로 많은 긴장을 하고 있는 것이 사실이다. 프랑스 만화가 Claire Wendling은 Adobe의 개인 정보 및 개인 데이터 설정 문구 스크린샷을 인스타그램에 게시하였다. 이를 예술가이자 운동가 Jon Lam이 트위터어 재게시 하였으며, 이 내용은 예술계로 퍼져 나갔다. 200만 조회수와 수천 건의 재게시를 기록하였다. 이들의 이야기는 간단하다. Adobe사는 자신들이 어떻게 앱을 사용하는지를 추적한다는 것이다. 문제는 자신들의 예술창작 과정을 자동화 할 수 있다는 것이다. 이는 AI가 대체할 수 있는 직업군이 된다는 의미이다.
어떠한 댓글에는 'Adobe사는 예술가들에 대한 약탈적 비즈니스 관행을 저지르고 있다'고 비난한다. 다른 댓글은 ‘기계가…. 작업을 하는 당신에게서 훔치고 있다. ‘ 또 ‘Adobe 제품을 사용하면 안되는 이유는 32405585382281858428가지이다'라는 글도 있다.
사실, 현실은 더욱 복잡할 수 있다. Adobe 대변인은 자신의 회사는 ‘AI를 훈련하기 위하여 고객의 계정을 사용하지 않는다’라고 주장한다. ‘생성형 AI와 관련하여 고객 클라우드 계정에 저장된 데이터를 사용하지 않고 있다. 현재 생성형 AI 사용 사례를 정의하기 위한 정책을 검토하고 있다’고 밝히고 있다.
한편 기계학습 콘텐츠 분석에 관한 FAQ 내용에서 회사는 개나 고양이와 같은 잘 알려진 객체나 개인에 관한 자동 태그 사진을 인식하기 위한 기계학습 기반 물체 인식에 사용할 수 있다고 밝히고 있다. Photoshop에서 기계학습은 생각하는 광경을 자동 수정하는데 사용될 수 있다고 밝히고 있다. 또한 문맥인식 옵션에 사용할 수 있다. 회사가 웹사이트를 디자인하고 있다고 생각할 경우, 관련 버튼을 제안할 수 있다다.
디자인 과정이 기술에 의하여 추적 당하고, 생성형 AI 앱을 훈련시키는 것에 대한 예술가들은 두려움을 갖고 있다. 예술 이미지 생성기 Midjourney의 창립자 David Holz 는 9월 Forbes 와의 인터뷰에서 자신의 조직이 AI의 훈련에서 예술가의 허가를 구하지 않았으며, 이는 예술계를 경악하게 만들었다고 말했다. 일부 예술가들은 AI 훈련에 자신의 작업을 사용하지 않도록 제어하는 도구를 만들었다. 또 유럽연합은 기계학습 모델을 교육하기 위한 방대한 양의 예술작품을 수집하는 AI 도구에 대한 합법적 의문을 제기하고 있다.
Adobe 제품을 사용하여 사진 동기화 서비스를 사용하는 오스트리아 비엔나 출신의 프런트 엔드 개발자이자 UI 및 UX 디자이너인 Andrey Okonetchnikov는 ‘유료 서비스에서 사용자의 개인 정보를 그러한 규모로 침해해도 괜찮다고 가정한다는 사실이 놀랍다’라고 말한니다. ‘클라우드에 데이터를 저장는 회사가 데이터를 소유하고 있다고 가정하기 때문에 문제가 된다. 수백만 명의 지적 재산과 개인 정보를 침해하면서도 ‘일상적 필요'로 생각하고 있다. 이제 그만 해야 한다’라고 이야기한다. 그러나 모든 사람이 다 우려하고 있는 것은 아니다. 일부 사람들은 이들 우려가 과장되고 잘못 해석 되었다고 생각한다.
Adobe사가 12월 초 발표한 내용에는 자료 공유 목록에 인공지능 생성 이미지가 포함될 수 있다는 사실을 밝히고 있다. 이 조치는 사진 예술가들에게 직접적 손해를 끼칠 가능성이 높다. 그리고 Panton사와의 이전 분쟁 사태로 일부 사용자는 Adobe 소트웨어 사용한 디자인 프로젝트에서 Panton 색의 사용이 안된 문제가 발생하기도 하였다. 사람들은 기계 학습을 위한 데이터 공유 체크박스를 보고, AI 생성 이미지의 기술 진척이 진행되고 있다는 것을 알기 시작하였다고 크리에이티브 디렉터이자 일러스트레이터인 Daniel Landerman은 말하고 있다.
그의 눈에는 기계학습을 위한 데이터 공유 기능이 수 년 동안 Adobe 앱에 있었으며, 이는 비록 Adobe 클라우드 저장 파일에만 적용 되었더라도, 어떤 전문가는 하지 말아야 하는 기능이라고 이야기한다. 그는 앱 제작자와 데이터를 공유하는 선택을 하지 않도록 확인하고 있으며, 특히 고객과 프로젝트에 대한 노출 금지 조약을 명기하는 경우에는 특히 조심하고 있다고 말한다.
AI 관련된 사항들은 매우 빠르게 변화하고 있다. 예술가들은 이를 규제하려고 노력하고 있으며, AI 엔지니어와 NFT 제작자들은 예술가들을 이들을 앞지르려 하고 있다. 그는 다른 문제들이 이 혼란에 휘말리는 것이 놀랍지 않다고 이야기한다.
그러나, 예술가들의 우려를 넘어 데이터 보호 전문가들은 Adobe의 자료 처리 과정을 우려하고 있다. 유럽의 전자프라이버시 법에 의하면, Adobe는 개인의 기기로부터 데이터를 읽기 위하여는 동의가 필요하다고 이아기하고 있다. 현재와 같은 방식으로 데이터를 공유하는 것은 커다란 문제라는 지적이다. 이는 사용자의 기대를 넘어서는 것으로, 이미 많은 경우 고객과 노출금지조항에 서명을 하였을 것이다. 선택을 하는 것이 아닌, 선택을 하지 않도록 하는 방식은 유럽 전자 프라이버시 법에 따라 조사 대상이 될 수 있다고 이야기하고 있으며, 유사 내용으로 애플이 850만불의 벌금을 최근 부과 당하였다.
Adobe 대변인은 본사는 고객이 개인 정보 설정을 완전히 제어할 수 있도록 하고 있다고 이야기한다. 이야기 되고 있는 정책은 새로운 것이 아니며 고객을 위해 제품을 개선하는 데 도움이 되도록 10년 동안 시행되 왔다. 자신의 콘텐츠가 분석에서 제외되기를 원하는 고객은 프라이버시 페이지에서 이를 선택할 수 있다고 이야기하고 있다.
