ETRI(한국전자통신연구원·원장 김명준)는 자체 개발한 '촉각 음정 시스템'으로 비햅틱스와 함께 지난 9월부터 11월 세달간 총 3회의 청각장애인을 위한 온·오프라인 국악공연을 개최했다고 29일 밝혔다.

촉각 음정 시스템은 ETRI가 작년에 개발한 사용자 인터페이스(UI) 기술이다. 음악이나 소리 등 청각 정보로부터 소리의 주파수 신호를 뽑아내 촉각 패턴으로 만들어 기기를 통해 피부로 전달한다. 해당 기술이 적용된 장갑을 착용하면 음정 변화를 손가락으로 느낄 수 있다.

ETRI가 개최한 국악공연 '이음풍류'는 국내 최초로 청각장애인들이 시각과 촉각을 통해 국악의 생생한 라이브를 즐길 수 있도록 기획됐다. 모든 곡에는 수어를 통한 감정 전달과 해설, 자막이 제공됐다. 

비햅틱스의 자체 개발 조끼는 연주 박자감을 온몸으로 느끼게, ETRI의 촉각 음정 시스템이 적용된 장갑은 악기의 정밀한 음정 변화를 손가락으로 느낄 수 있도록 했다. 또한 각 악기의 선율 변화를 시각적 효과(미디어아트)와 함께 제공해 시각적인 즐거움을 더했다.

ETRI는 국악공연과 실시간 연동을 위해 촉각 음정 시스템의 기존 촉각 패턴을 서양 음계 방식에서 국악의 음계 방식으로 변경하고, 악기의 특성에 맞게 음역을 확대하는 등 기존 시스템을 최적화했다.

연구진은 잡음 조정(노이즈 튜닝)과 속도·떨림 보정을 통해 명확한 음정 표현을 가능케 했으며, 음향-기기 간 실시간 반응속도를 높여 정확도를 향상시켰다. 또 공연 환경과 상황에 따라 실시간으로 촉감의 최적화를 변경할 수 있도록 UI를 개선, 이음풍류 공연에 제공했다.

이번 공연에서는 국악기 중 대금에 집중해 대금의 세세한 음정 변화를 손가락의 촉감을 통해서 체험할 수 있었다. 총 7곡 중 대금이 포함된 4곡이 연동돼 제공됐으며, 특히 대금 솔로 공연인 김동진류대금산조에서 음정의 변화를 가장 실감 나게 느낄 수 있었다.

해외의 경우, 촉각을 이용해 청각장애인을 위한 라이브 공연을 시도한 적이 있으나 이는 음악의 비트감을 몸으로 체감하는 수준이다. 정밀한 악기에서의 음정 변화를 동시에 제공하는 방법으로는 이음풍류 공연이 세계 최초의 시도다. 

신형철 ETRI 휴먼증강연구실장은 "ETRI가 개발한 기술이 실험실 환경을 벗어나 실제 공연에 도입할 기회를 얻어 기술 개발에 대한 보람을 느끼고, 나아가 기술 적용 분야에 대한 시야를 넓힐 수 있었다"고 말했다.

향후 연구진은 촉각 센서와 기기 완성도를 높이는 연구를 수행할 계획이다. 교육용 콘텐츠 개발을 비롯해 음악 관람과 학습 분야로 촉각 음정 시스템을 더욱 확산할 예정이다.

이번 연구는 과학기술정보통신부 '신체기능의 이상이나 저하를 극복하기 위한 휴먼 청각 및 근력 증강 원천 기술 개발' 과제 일환으로 진행됐다.