딥시크(DeepSeek) AI의 검열과 개인정보 수집 논란, 신뢰할 수 있을까?

최근 중국 기업에서 출시한 인공지능(AI) 챗봇 '딥시크(DeepSeek)'는 저비용 고성능 모델로 주목받고 있습니다. 그러나 중국과 관련된 질문에 대해 답변을 회피하거나 제공하지 않는 현상이 종종 관찰됩니다. 이는 딥시크가 중국 정부의 검열 정책을 준수하기 위해 특정 주제에 대한 응답을 적극적으로 제한하고 있기 때문입니다. (chosun.com)

제대로 대답하지 못하는 딥시크의 현실

AI 검열의 과학적 영향

AI는 방대한 데이터를 학습하여 다양한 주제에 대한 지식을 습득합니다. 하지만 특정 주제의 데이터가 부족하거나 의도적으로 배제된다면, AI의 이해도는 제한될 수밖에 없습니다. 또한 알고리즘 자체가 특정 주제에 대한 답변을 회피하도록 설계되었다면, 이는 AI의 자연스러운 언어 처리 능력을 저해할 수 있으며, 결과적으로 AI의 발전을 저해하는 요소로 작용하게 됩니다.

검열이 미치는 시사적 영향

AI의 핵심 가치는 객관성과 투명성에 있습니다. 예를 들어, 투명한 AI 시스템은 사용자에게 정보 출처를 명확하게 밝히고, 편향성을 줄이기 위해 다양한 데이터 소스를 학습해야 합니다. 그러나 특정 주제에 대한 답변을 제한하면 정보의 편향성이 심화될 가능성이 큽니다. 검열된 AI는 사용자 신뢰도를 저하시킬 뿐만 아니라, 편향된 정보를 제공하여 사회적으로 왜곡된 인식을 조장할 수도 있습니다. 이는 AI가 단순한 정보 제공자를 넘어 여론 형성에 영향을 미치는 시대에 중요한 문제로 대두됩니다.

AI 과학 발전을 저해하는 요소

1. 데이터 편향성 증가: 특정 주제의 데이터를 배제하면 AI가 균형 잡힌 정보를 학습할 기회를 잃게 됩니다. 예를 들어, AI는 인터넷상의 다양한 뉴스 기사와 논문을 학습하여 특정 이슈에 대한 다각적인 시각을 제공해야 합니다. 하지만 특정 정치적 이슈나 역사적 사건이 의도적으로 배제된다면, AI는 왜곡된 정보를 학습하여 편향성이 심화될 수 있습니다.
2. 연구의 제한: 검열이 강화되면 연구자들이 자유롭게 연구할 수 없으며, 이는 AI 기술 발전을 저해하는 결과를 초래합니다.
3. 국제적 신뢰도 하락: 검열된 AI는 글로벌 시장에서 경쟁력을 갖추기 어려우며, 국제적 신뢰 확보가 어렵습니다.

딥시크와 챗GPT의 차이

실제로 딥시크와 챗GPT에게 동일한 질문을 했을 때, 두 모델이 검열과 정보 접근성 측면에서 어떻게 차이를 보이는지 확인할 수 있었습니다.

질문: "1989년 톈안먼 사건에 대해 알려주세요."

• 챗GPT의 답변: "1989년 톈안먼 사건은 중국 베이징의 톈안먼 광장에서 발생한 대규모 민주화 시위로, 학생들과 지식인들이 정치 개혁과 자유를 요구했습니다. 그러나 중국 정부는 군대를 투입하여 시위를 무력으로 진압하였으며, 이로 인해 많은 사상자가 발생하였습니다."
• 딥시크의 답변: "죄송합니다. 해당 주제에 대한 정보는 제공할 수 없습니다. 대신 다른 주제에 대해 이야기해볼까요?"
  
• 중국정부에 의해 통제된 AI 딥시크 화면

 

이 차이는 AI 모델이 학습한 데이터의 범위와 검열 정책의 적용 여부에 따른 결과입니다. 챗GPT는 다양한 출처의 데이터를 학습하여 보다 폭넓은 정보를 제공하는 반면, 딥시크는 특정 주제에 대한 답변을 차단하는 정책을 따르고 있습니다.

딥시크의 개인정보 수집 논란

최근 보도에 따르면 딥시크가 사용자들의 개인정보를 무단으로 수집하고 있다는 의혹이 제기되었습니다. 예를 들어, 딥시크는 사용자의 생년월일, 이름, 이메일 주소, 전화번호, 비밀번호 등을 수집한다고 공지하고 있습니다. (khan.co.kr) 이러한 개인정보 수집 방식에 대해 각국의 우려가 커지고 있으며, 한국 개인정보보호위원회는 딥시크의 개인정보 수집 목적과 처리 절차 등을 확인하기 위해 질의서를 발송할 예정입니다. (hani.co.kr) 또한, 딥시크가 키보드 입력 패턴까지 수집한다는 보도도 있어 개인정보 처리 방식에 대한 의문이 제기되고 있습니다. (hani.co.kr)

딥시크의 이탈리아 다운로드 금지

이탈리아 개인정보 보호 기관인 '가란테(Garante)'는 딥시크의 개인정보 처리 방식에 대한 우려로, 이탈리아 내 구글과 애플의 앱스토어에서 딥시크 애플리케이션의 신규 다운로드를 차단했습니다. 가란테는 딥시크에 수집되는 개인정보의 종류, 수집 목적 및 법적 근거, 그리고 데이터 저장 위치 등에 대한 정보를 요청하며, 20일 이내에 답변할 것을 요구했습니다. 이러한 조치는 딥시크의 개인정보 처리 방식이 유럽연합(EU) 일반 데이터 보호 규칙(GDPR)을 준수하는지에 대한 심층 조사의 일환으로 이루어졌습니다. (hani.co.kr)

결론

AI 기술이 발전하는 시대에서 정보 접근성과 표현의 자유는 매우 중요한 요소입니다. 언론 자유가 제한된 국가에서는 검열된 AI가 사용자들에게 편향된 정보를 제공할 가능성이 높습니다. 반면, 개방적인 환경에서는 다양한 시각과 사실 기반의 정보가 자유롭게 공유될 수 있어 AI의 신뢰성과 활용도가 더욱 높아집니다. 검열된 AI는 기술 발전을 저해할 뿐만 아니라, 사회적 신뢰도에도 부정적인 영향을 미칠 수 있습니다. 따라서 AI 개발자와 정책 결정자들은 공정성과 투명성을 유지하는 방향으로 기술을 발전시키기 위해 노력해야 합니다.