휴대폰 AI가 내 사진과 메시지를 볼까?｜온디바이스 AI와 클라우드 AI의 차이

“휴대폰 AI가 내 사진과 메시지를 볼 수 있을까요? 온디바이스 AI와 클라우드 AI의 차이부터 Apple Intelligence가 개인정보를 처리하는 방식, Private Cloud Compute와 확인 방법까지 쉽게 설명합니다.”

요즘 새 스마트폰을 보면 ‘AI’라는 단어를 빼놓기 어렵습니다.

사진 속 물건을 찾고, 긴 글을 요약하고, 통화 내용을 정리하고, 내가 찾던 사진이나 이메일까지 대신 찾아줍니다.

최근 Apple이 공개한 새로운 Siri AI 역시 사용자의 메시지와 이메일, 사진 등에서 필요한 정보를 찾아 좀 더 개인적인 도움을 줄 수 있도록 발전했습니다.

여기까지 들으면 편리하다는 생각과 함께 다른 질문이 생깁니다.

“그럼 AI가 내 사진과 메시지를 전부 보고 있다는 뜻인가?”

저도 이런 기능 설명을 볼 때 가장 먼저 확인해야 할 부분은 기능의 화려함보다 내 정보가 어디에서 처리되는가라고 생각합니다.

그래서 알아두면 좋은 개념이 있습니다.

바로 온디바이스 AI와 클라우드 AI입니다.

온디바이스 AI란 무엇일까요?

이름이 어렵지만 원리는 비교적 간단합니다.

On-device는 ‘기기 안에서’라는 뜻입니다.

예를 들어 휴대폰에서 AI에게 어떤 작업을 시켰을 때 필요한 계산을 외부 서버로 보내지 않고 스마트폰 자체에서 처리한다면 온디바이스 AI라고 이해할 수 있습니다.

과거에는 복잡한 AI 작업을 하려면 강력한 서버가 필요했습니다.

하지만 스마트폰에 들어가는 칩의 AI 처리 성능이 높아지면서 일부 작업은 휴대폰 안에서도 처리할 수 있게 됐습니다.

이 방식에는 중요한 장점이 있습니다.

정보를 외부 서버로 보내지 않고 처리할 수 있는 작업이라면 개인정보가 기기 밖으로 이동하는 범위를 줄일 수 있기 때문입니다.

Apple 역시 Apple Intelligence의 핵심 기반 중 하나가 온디바이스 처리라고 설명합니다.

그렇다면 사진과 메시지를 정말 볼 수 있을까요?

여기서는 ‘본다’라는 표현을 조금 조심해서 사용해야 합니다.

사람이 내 사진첩을 몰래 열어본다는 의미와 AI 시스템이 사용자의 요청을 처리하기 위해 관련 정보를 분석하는 것은 다른 문제입니다.

예를 들어 AI에게

“지난주에 친구가 보내준 식당 주소 찾아줘.”

라고 요청했다고 생각해보겠습니다.

이런 기능을 수행하려면 AI가 사용자의 요청과 관련된 메시지나 정보에 접근할 필요가 있을 수 있습니다.

새로운 Siri AI도 사용자의 개인적 맥락을 이해해 메시지, 이메일, 사진 등에서 관련 정보를 찾아주는 기능을 제공합니다.

따라서

“AI는 내 개인정보를 전혀 사용하지 않는다.”

라고 설명하는 것도 정확하지 않습니다.

중요한 질문은 오히려 이것입니다.

어떤 정보가 사용되고, 어디에서 처리되며, 처리한 정보가 어떻게 관리되는가?

휴대폰에서 처리하기 어려운 질문도 있습니다

온디바이스 AI가 좋다면 모든 AI 작업을 스마트폰 안에서 처리하면 될 것 같습니다.

하지만 현실적으로는 한계가 있습니다.

복잡한 AI 모델을 실행하려면 많은 연산 능력과 메모리가 필요합니다.

그래서 휴대폰 안에서 처리할 수 있는 작업도 있지만 더 큰 AI 모델이 필요한 작업은 클라우드 서버의 도움을 받을 수 있습니다.

Apple Intelligence도 이런 구조를 사용합니다.

Apple의 공식 설명에 따르면 사용자가 요청하면 먼저 기기에서 처리할 수 있는지를 판단하고, 더 복잡한 요청에는 Private Cloud Compute(비공개 클라우드 컴퓨팅)를 사용할 수 있습니다.

즉,

간단한 작업 → 기기에서 처리

더 복잡한 작업 → 필요한 경우 클라우드의 더 큰 AI 모델 활용

이라는 구조로 이해하면 쉽습니다.

클라우드로 보내면 개인정보가 모두 저장될까요?

바로 이 부분 때문에 클라우드 AI를 불안하게 느끼는 사람이 많습니다.

Apple은 Private Cloud Compute에서 사용자의 요청을 처리할 때 해당 요청에 필요한 데이터만 처리하고, 처리가 끝난 뒤 데이터를 보관하지 않도록 설계했다고 설명합니다.

Apple의 보안 문서에 따르면 Private Cloud Compute로 전송된 개인 데이터는 사용자의 요청을 수행하는 용도로만 사용되며, 응답이 반환된 뒤에는 보관되지 않도록 설계되어 있습니다.

또 Apple 직원이 해당 사용자 데이터에 접근할 수 없도록 하는 것을 시스템의 핵심 요구사항으로 두고 있습니다.

이것은 단순히

“우리는 데이터를 보지 않습니다.”

라고 약속하는 것과는 조금 다릅니다.

Apple은 외부 보안 연구자가 Private Cloud Compute의 소프트웨어와 보안 구조를 검증할 수 있도록 관련 자료와 연구 환경도 공개하고 있습니다.

물론 이것이 모든 AI 서비스의 클라우드 처리 방식이 동일하다는 의미는 아닙니다.

서비스마다 데이터 처리와 보관 정책은 다를 수 있습니다.

따라서 Apple의 설명을 다른 AI 서비스에 그대로 적용해서는 안 됩니다.

내 질문이 휴대폰에서 처리됐는지 확인할 수도 있습니다

여기서 흥미로운 기능이 하나 있습니다.

Apple은 Apple Intelligence 리포트를 통해 Apple Intelligence 요청이 어디에서 처리됐는지 확인할 수 있는 정보를 제공합니다.

지원되는 환경에서는

설정 → 개인정보 보호 및 보안 → Apple Intelligence 리포트

에서 관련 정보를 확인할 수 있습니다.

리포트에는 요청이 기기에서 처리됐는지, Private Cloud Compute를 사용했는지를 구분할 수 있는 정보가 포함됩니다.

평소에는 이런 기술적인 보고서까지 볼 필요가 없을 수도 있습니다.

하지만

“정말 내 휴대폰 안에서 처리되는 게 맞나?”

라는 궁금증이 있다면 이런 확인 방법이 있다는 것을 알아두면 좋습니다.

온디바이스 AI라면 무조건 안전할까요?

여기에서도 한 가지 오해는 피해야 합니다.

온디바이스 AI는 개인정보 보호 측면에서 장점이 있지만 온디바이스라는 단어 하나만으로 모든 보안 문제가 해결되는 것은 아닙니다.

휴대폰 자체가 잠금 없이 열려 있다면 다른 사람이 내 사진이나 메시지를 볼 수 있습니다.

악성 앱에 과도한 권한을 허용했다면 또 다른 문제가 생길 수 있습니다.

운영체제를 오랫동안 업데이트하지 않는 것도 좋지 않습니다.

결국 AI 개인정보 보호는

AI가 어디에서 계산하는가

뿐 아니라

기기를 어떻게 잠그고 있는가

앱에 어떤 권한을 주었는가

운영체제가 최신 상태인가

같은 기본적인 스마트폰 보안과 함께 봐야 합니다.

스마트폰 AI를 사용할 때 저는 이것부터 확인하겠습니다

새로운 AI 기능이 등장하면 기능 이름을 모두 외울 필요는 없습니다.

대신 세 가지 질문을 해보면 이해하기 쉽습니다.

첫째, 이 기능은 어떤 개인정보를 사용하는가?

사진인지, 메시지인지, 이메일인지 확인합니다.

둘째, 그 정보는 어디에서 처리되는가?

휴대폰 안에서 처리되는지, 클라우드 서버를 이용하는지 살펴봅니다.

셋째, 서버에서 처리된다면 데이터는 어떻게 관리되는가?

저장 기간과 학습 사용 여부, 개인정보 처리방침 등을 확인합니다.

이 세 가지를 확인하면

“AI니까 위험하다.”

또는

“온디바이스 AI니까 무조건 안전하다.”

라는 식으로 단순하게 판단하지 않아도 됩니다.

앞으로 스마트폰을 살 때 달라질 기준

예전에는 스마트폰을 고를 때 카메라 화소, 저장공간, 화면 크기, 배터리를 많이 비교했습니다.

앞으로는 하나를 더 살펴보게 될 것 같습니다.

AI가 내 정보를 어디에서 처리하는가?

입니다.

같은 AI 기능처럼 보여도 어떤 작업은 휴대폰에서 처리하고, 어떤 작업은 서버의 도움이 필요할 수 있습니다.

그리고 그 데이터를 어떻게 보호하는지는 회사마다 다를 수 있습니다.

그래서 ‘AI폰’이라는 광고 문구보다 중요한 것은 그 뒤에 숨어 있는 데이터 처리 방식입니다.

다음에 휴대폰에서 새로운 AI 기능을 발견한다면

“이 기능이 얼마나 똑똑하지?”

만 물어보지 마세요.

한 가지를 더 확인해보세요.

“내 정보는 어디에서 처리되고 있을까?”

앞으로 스마트폰 AI를 안전하게 사용하는 데 꽤 중요한 질문이 될 수 있습니다.