구형준 교수의 SecAI Lab이 보안 분야 최고 콘퍼런스 중 하나인 IEEE Symposium on Security and Privacy 2024 (S&P '24) 학회에서 Distinguished Paper Award를 수상했다. 이는 학술 대회에서 발표된 논문 중 특히 뛰어난 성과를 인정받은 논문(~3%)에 수여되는 상이다. 인공지능 모델을 이용한 보안 분야 연구를 수행하는 SecAI Lab을 함께 알아보자.

◈ 연구실에 대한 소개 부탁드립니다.

SecAI Lab은 소프트웨어/시스템 보안뿐 아니라 인공지능을 활용한 보안 분야를 선도하는 연구실입니다. 우리 연구실은 실행 가능한 프로그램 분석, 디지털 포렌식, 소프트웨어 워터마킹, 프라이버시, 피싱 등 다양한 실용적 주제에 대해 연구하고 있습니다. 학문적 깊이를 더하기 위해 교수님과 개별 미팅과 주간 미팅을 통해 다양한 주제를 공유하고 상호 협력하는 문화를 형성하고 있습니다. 이를 통해 연구원들은 자신의 주된 분야를 넘어 폭넓은 지식을 습득하고 연구 역량을 강화할 수 있습니다. 더불어 매 학기 다양한 콘퍼런스 및 워크숍에 참여해 다른 연구자의 최신 연구 동향을 파악하고 시야를 넓히도록 지원하고 있습니다. 글로벌 연구 커뮤니티와의 네트워킹을 강화하고 자신의 연구를 발전시킬 수도 있습니다.

◈ IEEE Symposium on Security and Privacy 2024 (S&P '24) 학회에서 아주 우수한 성적을 거두셨습니다. 그 비결이 궁금합니다.

사실 콘퍼런스에 내는 모든 논문은 아이디어 단계부터 실험과 검증 단계, 그리고 실제적인 논문 작성까지 상당한 노력과 시간이 들어갑니다. 이 학회에서 Distinguished Paper Award를 받은 것은 행운도 따랐겠지만, 새로운 아이디어와 이를 뒷받침한 실험 결과, 잘 작성된 논문, 그리고 저자들의 커뮤니케이션과 노력 삼박자가 잘 맞춰진 결과라고 생각합니다. 이번에 작성한 논문은 자동화된 root cause analysis (RCA)라는 다소 생소한 주제인데, 간단히 말씀드려 보겠습니다. 프로그램 내 있는 취약점을 찾기 위해 퍼징이라는 기술을 종종 이용합니다. 무작위한 입력값을 생성하는 작업을 통해 프로그램의 비정상 행위를 유발하는 크래시(crash)를 남기는데, 이를 통해 본연의 문제가 무엇인지 자동으로 분석해 주는 프레임워크입니다. 이때 크래시를 발견하기 위해 사용했던 퍼징 기술을 RCA 작업에 응용할 수 있도록 한 아이디어가 조명을 받았던 것 같습니다.

◈ 연구실의 대표적인 연구 활동을 소개해 주세요.

현재 우리 연구실의 주요 연구 주제로 자연어 처리 인공지능 모델을 활용한 실행 바이너리 분석을 진행 중입니다. 자연어 처리는 언어의 문맥적 정보를 이해하여 다양한 작업을 수행하는데, 유사하게 이를 컴퓨터가 이해하는 기계어에 적용해 숨겨진 코드 문맥을 파악하고 분석에 활용합니다. 일례로 바이너리 내 유사도를 탐지하는 분야의 경우 악성코드 탐지, 악성코드 패밀리 분류, 취약점 탐지, 버그 패치 여부 탐지 등 다양한 분야에 활용할 수 있습니다.

◈ 하나의 연구는 어떤 과정과 방법을 통해 진행되나요?

먼저 본인이 관심 있는 연구 분야를 선정하고, 해당 분야의 최신 동향을 파악합니다. 연구 분야의 전체적인 흐름을 살펴보면서 아직 다뤄지지 않은 부분이나 한계점, 또는 새로운 방법론이나 접근방식을 고려하고 브레인스토밍을 진행합니다. 연구 주제를 정하면, 주장을 뒷받침할 실험을 계획하고 진행합니다. 실험 결과를 바탕으로 본인이 세운 가설을 검증하는 과정을 거치며, 실험 과정에서 새롭게 발견된 부분은 기록하면서 조금씩 아이디어를 발전시킵니다. 마지막으로 논문으로 기술하고 콘퍼런스나 저널에 제출해 제삼자의 검증 단계를 거칩니다. 연구의 첫 시작인 자신의 연구 분야를 찾는 것이 가장 중요하고 어려운 단계라고 생각합니다. 본인이 연구 주제를 찾기 어려운 경우 교수님께 연구 분야에 대한 방향성을 지도받을 수 있습니다.

◈ 연구실에서 이루어진 연구들은 어떻게 활용되나요? 구체적인 사례가 있다면 소개해 주세요.

보안은 사실 눈에 보이지 않는 곳에서 안전을 책임지는 역할을 합니다. 가령 정체불명의 프로그램을 다운받았을 경우 내 컴퓨터에서 해로운 행위를 하는 요소가 있는지 알려면 소프트웨어 자체 분석이 필요합니다. 악성코드를 탐지하는 기존 방식은 알려진 시그니쳐를 통하는 것인데, 알려지지 않은 코드의 경우 바이너리 행위를 파악할 수 있는 인공지능 모델을 통해 악성 여부를 체크할 수 있습니다. 문맥이 존재하지 않는 기계어 자체를 분석하는 것은 전문가에게도 상당히 많은 시간이 소요되는 작업인데, 인공지능이 사전에 훈련한 여러 데이터셋을 통해 바이너리 내 문맥을 파악해 일차적으로 확인할 수 있는 좋은 도구가 될 수 있습니다. 현재 다양한 연구를 통해 이런 가능성을 지속적으로 검증하고 있습니다.

◈ 본 연구실의 목표가 궁금합니다.

우리 연구실은 실용적인 정보보호를 연구하는 그룹으로 기존의 다양한 기술과 현재 부상하고 있는 인공지능 기술을 바탕으로 안전한 소프트웨어를 만들고자 합니다. 현대 소프트웨어는 우리가 널리 사용하는 데스크탑이나 모바일 애플리케이션뿐 아니라 하드웨어를 구동시키는 펌웨어, 시스템, 네트워크 관련 동작을 제어하는 실행 코드와 인공지능 모델까지 아우르고 있습니다. 궁극적으로 사용자가 원하는 방식으로 컴퓨터 명령어가 안전하게 실행될 수 있도록 설계, 구현, 제어, 분석하는 일련의 메커니즘과 프로세스를 제공하는 것이 목표입니다.

◈ 연구실만의 자랑거리가 있다면 무엇인가요? 

가장 큰 자랑거리는 교수님께서 연구원 한 명 한 명에게 집중적으로 피드백을 주시고 지도해주신다는 점입니다. 이를 통해 각 연구원은 자신의 연구 분야에서 깊이 있는 지식을 쌓고, 보다 구체적인 방향성을 설정할 수 있습니다. 우리 연구실에는 다양한 국적의 외국인 연구원들도 함께하고 있어 글로벌한 연구 환경을 조성하고 있습니다. 이는 다양한 시각과 아이디어를 접할 기회를 제공하며 연구의 질을 높이는 데 큰 역할을 하고 있습니다. 우리 연구실에서 진행된 연구는 다수의 학술지와 콘퍼런스에서 인정받고 있으며, 연구원들의 동기부여와 자부심을 높이는 데 기여하고 있습니다.

◈ 연구실에 들어가기 위해 필요한 자격이나 능력이 있나요? 어떤 학생이 연구실에 오면 좋을까요?

우리 연구실에서는 소프트웨어 보안, 인공지능을 활용한 보안, 그리고 인공지능 모델 자체에 대한 보안 등 다양한 첨단 연구를 활발히 진행하고 있습니다. AI 혹은 소프트웨어 보안에 관심이 있는 학생들은 우리 연구실에서 함께 연구에 참여하며 깊이 있는 지식을 쌓을 수 있을 것입니다. 연구실명에 AI와 보안이 모두 포함되어 있어 모든 분야를 다 알아야 한다고 오해하실 수 있지만, 한쪽 분야에만 관심이 있어도 충분히 다른 연구원들과 협업하여 다양한 연구를 수행할 수 있습니다. 이러한 주제에 관심이 있고 열정을 가진 분이라면 언제든 환영합니다.

◈ 연구원을 꿈꾸는 학생들에게 한마디 부탁드립니다.

연구원이 되기 위해서는 끈기와 노력이 필요하다고 생각합니다. 물론 재능도 중요하지만, 끈기를 가지는 것과 노력하는 것을 함께 해야 성공적으로 연구를 수행할 수 있으리라 믿습니다. 연구는 말 그대로 기존에 답이 존재하지 않는 문제에 대해 문제를 정의하고 여러 가지 시도와 접근 방식을 통해 해답을 찾아가는 과정이라 때로는 어려움을 겪을 수 있겠지만, 이러한 경험 역시 좋은 연구자로 성장하는 데 중요한 단계라고 생각합니다. 시작이 반이라는 말처럼 연구에 대한 의지가 있다면 도전해 보시기 바랍니다.

<2024년 졸업생과 재학생이 함께 한 신년회>

연구실 홈페이지: https://secai.skku.edu/