컴퓨터 분야 최고 권위 학회인 ‘미국컴퓨터학회(ACM)’는 ‘컴퓨팅’을 컴퓨터라는 기술을 사용해 진행하는 모든 과정으로 정의한다. 컴퓨터를 활용한 아주 단순한 계산에서 복잡한 데이터 처리까지 모두 컴퓨팅에 포함된다. 컴퓨팅 시스템 성능향상에 대한 요구는 높아지고 있다. 전 세계 데이터 생산량이 기하급수적으로 늘고 있기 때문이다. 미국 IBM에 따르면 2017년 기준 전 세계는 하루에 250경에 해당하는 2.5 퀸틸리언 바이트의 데이터를 쏟아내고 있다. 생소한 단위라 상상조차 힘든 어마어마한 양이다. 성능 향상을 위해서는 컴퓨팅 시스템을 구성하는 알고리즘과 소프트웨어, 하드웨어의 복잡한 상호작용을 이해하고 이를 효율적으로 한 데 묶는 설계가 필요하다.

컴퓨터공학과 김광선∙성효진∙박은혁 교수가 함께 이끄는 ‘컴퓨팅 가속 플랫폼 연구실’은 컴퓨팅 성능 향상을 위한 연구를 하고 있다. 교수 3명이 각자 전문 분야에서 최적화를 이끌어내고 이를 통합하는 것이다. 김 교수는 하드웨어, 성 교수는 소프트웨어, 박 교수는 알고리즘의 최적화를 맡는다. 컴퓨팅 성능향상의 세 가지 요소를 한 연구실에서 다루는 곳은 세계적으로도 찾기 힘들다.

컴퓨팅 시스템에서 하드웨어는 연산능력의 핵심인 중앙처리장치(CPU)로 대표된다. CPU 외에 최근에는 그래픽처리장치(GPU)나 가속기 칩, 스마트폰에 쓰이는 신경망 처리장치(NPU) 등 하드웨어 종류도 다양해졌다. 인공지능(AI) 성능향상에 따라 알고리즘을 최적화하고, 알고리즘이 적용될 하드웨어 구조도 이에 맞게 변화하고 있다. 하드웨어가 다양해질수록 이에 맞은 소프트웨어 기술이 필요해진다. 사람이 알고리즘으로 표현한 명령을 하드웨어가 알아들을 수 있도록 기계어로 번역해주는 ‘컴파일러’와 같은 프로그램이 각 하드웨어 종류마다 달라지는 것이다.

교수 3명은 각자의 전문 분야에서 최적화를 추진한다. 성 교수는 “최적화라는 것은 특별한 게 아니라 인간의 본능”이라며 “일상생활에서도 무의식적으로 더 효율적으로 에너지를 쓰고 결과물이 좋은 방법을 항상 찾고 있다”고 말했다. 박 교수는 “최근 인공지능(AI) 성능 향상에 초점을 맞춰 알고리즘을 최적화하고 있다”며 “하드웨어와 소프트웨어, 알고리즘 각각이 최적화되고 전체 효율이 높아지게 되는데 이런 게 최적화의 매력”이라고 말했다. 김 교수는 “가령 반도체 공정기술을 예로 들어 요소별 최적화를 한데 묶으면 그 기술이 지금부터 발전하지 않아도 최적화만으로도 100배 이상의 효율을 낼 수 있다”고 말했다.

세 교수가 의기투합해 뭉친 연구실은 컴퓨팅 시스템이 시대에 맞춰 끊임없이 진화할 것이라 예측하고 있다. 김 교수는 “컴퓨팅 시스템 분야에 역동적으로 많은 발전이 이뤄지고 있고 앞으로 무궁무진한 가능성이 열려 있다는 점이 이 연구분야의 매력”이라며 “시스템 연구에 뿌리를 두되 다른 세부 분야에 전문성을 가진 세 교수가 모여 있기에 진화하는 컴퓨팅 시스템에 발맞춰 최고의 최적화를 이뤄낼 수 있을 것”이라고 밝혔다.