AI는 키 입력을 듣고 입력 내용을 알 수 있습니다.

Jun 04, 2023

런던 대학교, 더럼 대학교, 서리 대학교의 연구원들은 잠재적으로 민감한 데이터를 수집하기 위해 키보드를 도청할 수 있는 새로운 AI 시스템을 개발했습니다. 새로운 논문에 제시된 알고리즘은 MacBook Pro 키보드에서 테스트되었으며 오디오 녹음만을 기반으로 어떤 키가 눌렸는지 감지하는 데 93-95%의 정확도를 달성했습니다.

또한 이 연구는 휴대폰, 노트북 및 기타 장치에 어디에나 존재하는 마이크가 어떻게 음향 부채널 공격을 통해 데이터 보안을 손상시키는 데 활용될 수 있는지 보여줍니다. 이전 논문에서는 오디오를 통한 노트북 키 입력 감지를 탐구했지만, 이 AI 기반 접근 방식은 전례 없는 수준의 정밀도를 달성합니다.

연구원에 따르면, 그들의 AI 모델은 거리와 대역폭 제약에 직면한 다른 하드웨어 기반 방법도 능가합니다. 일반적인 소비자 장치에 내장된 마이크를 사용하면 타이핑 음향이 그 어느 때보다 더 많이 노출되고 접근 가능해집니다.

그렇다면 이 새로운 오디오 알고리즘은 어떻게 작동할까요? 연구원들은 먼저 MacBook Pro에서 각 키를 25번씩 눌러 입력하는 오디오 샘플을 녹음했습니다. 이를 통해 AI 시스템은 각 키에서 나오는 소리 간의 미세한 변화를 분석할 수 있었습니다.

그런 다음 오디오 녹음은 시간 경과에 따른 사운드 주파수를 시각적으로 표현하는 스펙트로그램으로 변환되었습니다. AI 모델은 이러한 스펙트로그램을 통해 훈련되어 다양한 패턴을 다양한 키 입력과 연관시키는 방법을 학습했습니다.

수천 개의 오디오 세그먼트에 걸쳐 이 훈련 프로세스를 적용함으로써 알고리즘은 두드리는 각 키의 음향 지문 간의 미묘한 차이를 학습합니다. 특정 키보드에 대해 훈련을 마치면 AI는 새로운 오디오 녹음을 분석하고 높은 정확도로 키 입력을 예측할 수 있습니다.

연구원들은 MacBook Pro 키보드로 훈련했을 때 알고리즘이 93~95%의 정확도를 달성했다는 사실을 발견했습니다. Zoom 통화 녹음에서 키보드 사운드를 테스트할 때 성능이 약간 떨어졌습니다.

AI 시스템은 특정 키보드 모델 및 오디오 환경에 맞게 보정되어야 합니다. 그러나 공격자가 적절한 훈련 데이터를 얻을 수 있다면 이 접근 방식은 널리 적용될 수 있습니다. 맞춤형 모델을 사용하면 악의적인 행위자가 잠재적으로 비밀번호, 메시지, 이메일 등을 가로챌 수 있습니다.

개인 정보 보호 위협이 우려되지만, 이 연구는 또한 새로운 형태의 데이터에서 통찰력을 찾는 AI 알고리즘의 능력이 향상되고 있음을 보여줍니다. 음향 방출은 오랫동안 부채널 공격(아마도 가장 일반적으로 레이저 마이크를 통해)에서 탐색되어 왔지만 이제 정교한 기계 학습을 통해 이러한 유출된 신호에 대한 전례 없는 분석이 가능해졌습니다.

이러한 유형의 공격으로부터 데이터를 보호할 수 있는 몇 가지 방법이 있으며, 여기에는 조용히 입력하는 것이 포함되지 않습니다.

터치 타이피스트는 모델을 혼동하여 정확도가 40%로 떨어지는 것 같습니다(아마 타이피스트가 다른 부분에서 키를 눌러 음향을 변경하기 때문일 것입니다). 타이핑 스타일의 변화, 스피커로 소리 내기, 터치스크린 키보드 사용 등도 대책으로 거론된다. 키보드의 음향을 변경하면 또 다른 훈련 라운드가 필요하므로 AI를 사용할 수 없게 되므로 키보드 모딩의 토끼굴에 빠져드는 것을 즐길 수 있습니다.

앞으로 연구원들은 이러한 새로운 위협 벡터를 탐지하고 방어하는 방법에 대한 추가 조사를 제안합니다. AI가 유비쿼터스 데이터 소스를 활용하기 위한 새로운 잠재력을 계속해서 열어감에 따라 데이터 보안과 개인 정보 보호를 유지하려면 의도하지 않은 취약성을 식별하고 완화하기 위해 동일한 독창성이 필요합니다.