"그렇죠. 미국, 일본, 독일 등에서 거의 20년을 하고도 아직 성공 못 한거에요."

"다른 나라처럼 기업에서 장기간 막대한 투자를 하면 모를까, 우리나라는 아무래도 힘들죠. 그럼 다음 과제 검토를…."

2000년, 21세기프론티어연구개발사업의 원년 사업단 중 하나였던 테라급나노소자개발사업단(단장 이조원)의 과제 심사현장. 심사위원 모두가 어려울 것이라며 반대 입장을 보이고 있었다. 그 때 갑자기 이조원 단장이 손을 들며 나섰다.

"이거 합시다. 해봅시다." "네?" 모두들 어리둥절한 표정을 지으며 이 단장을 바라봤다. 이 단장이 말을 이어갔다. "다들 무슨 말씀 하시는지는 알겠습니다만… 이 연구가 성공한다면, 정말로 우리나라에서 개발한 원천기술로서 얘기할 만 한 거 아닙니까? 먼 미래를 보면, 우리도 어차피 발을 딛고 일어서야 할 분야입니다. 성공 가능성이 높지는 않지만, 성공만 한다면 영향력은 대단할 겁니다."

논란이 된 과제는 오재응 한양대학교 전자및통신공학과 교수가 제출한 것으로 실리콘의 기능을 더욱 확대하기 위해 화합물 반도체를 실리콘 기판 위에 성장 하는 새로운 반도체 소자(素子)를 개발해보겠다는 내용이었다.

당시에는 폭락했던 실리콘 반도체 가격이 회복되며 시장 경기가 살아나고 있었고, 우리나라 반도체 기업들의 눈부신 선전도 막 시작됐다. 같은 시기, 모토로라를 비롯해 몇몇 세계적인 회사들이 시도했던 화합물반도체와 실리콘의 접합 기술의 상용화에 실패하며 관련 연구가 중단되고 있었다. 1980년대부터 예측됐던 실리콘 반도체의 물리적 한계는 다양한 신기술의 도입과 미세공정의 진화로 매번 극복되며 시장의 99%를 장악하고 있었고, 실리콘을 대체할 신소자 개발은 모두 상용화 단계에서 좌절됐다. 정황 상 심사위원들이 반대하는 것은 당연했다. 하지만 이조원 단장의 신념은 확고했다. 오히려 지금이 관련 연구개발을 할 적기이고, 개발된 원천기술에 국내 반도체 회사들이 투자한다면 미래에 지금의 반도체를 뛰어넘는 효자상품을 만들 수 있다는 생각이었다.

프론티어사업단장 중 드물게 기업 출신으로서 미국 IBM왓슨연구소와 삼성종합기술원을 거친 그가 끈질기게 설득하자 다른 심사위원들도 결국 마음을 돌렸다. "개념만 만들어져도 엄청 좋은 일일 것"이라며 강력한 지지를 보내는 이 단장의 격려와 "결국 실패할 것"이라는 주위의 비관적인 예측 속에 2000년, 오재응 교수의 연구가 시작됐다.

◆ 수없는 시도 끝 '이종 반도체 성장' 원천기술 개발…경제성·고성능 동시 구현
 

▲오재응 교수가 프론티어 연구에 임하는 자세는 남달랐다. 연구를 시작한 후 점심시간은 미팅시간으로 바뀌었다. 식사 시간조차 절약, 최대한 연구 시간을 확보하기 위해서다. ⓒ2011 HelloDD.com

어느 정도 각오는 했지만 주변의 우려를 조금이라도 불식시키고 싶은 마음에 조바심이 났다. 이때쯤 오 교수는 점심을 거르고 대학원생들과 미팅을 갖는 일이 잦아졌다. 그러나 실험에 참여했던 대학원생들의 졸업은 어김없이 다가왔고, 아직 관련 산업이 열린 연구 분야가 아니다보니 학생들이 매력을 느끼기 힘들어 인재 확보가 쉽지 않았다. 오 교수는 열정을 가진 학생과 연구자가 있다면 내 외부를 가리지 않았고, 충남대 김문덕 교수팀과 함께 연구를 진행하게 됐다.

당시 그의 머릿속은 온통 “실리콘 반도체의 한계를 극복하면서, 가격경쟁력도 갖춘 양쪽의 장점을 동시에 갖는 차세대 반도체 기술을 개발하자”는 목표로 가득 찼다. 대부분 반도체는 실리콘으로 알고 있지만 사실 반도체로 쓰일 화합물은 많다. 다만 실리콘이 가격경쟁력이 높아 시장을 독점했을 뿐이다. 그러나 점점 소형화되어 가고 있는 전자 기기(device)의 추세를 반영하기에는 실리콘 집적도가 물리적인 한계에 도달했다는 것이 전문가들의 중론이다.

또 높은 내전압과 발광(發光) 등 실리콘이 갖지 못하는 기능에 대한 요구도 있어 새로운 반도체의 등장이 필요한 시점이다. 실리콘을 대체할만한 반도체화합물로 꼽히는 것 중의 하나는 GaN(질화갈륨, Gallium Nitride). 높은 내전압과 가격경쟁력을 갖추고 있다. 하지만 GaN의 결정체(crystal) 구조는 실리콘 기판 위에 성장할 경우 원자 간의 간격 차이로 표면이 거칠고 쪼개지는 결함(defect)이 생겨 초고속 신호처리기기에는 사용할 수 없을 정도로 특성이 나빠진다. 최근 생산되는 LED는 실리콘이 아닌 사파이어 혹은 탄화규소 기판에 GaN(질화갈륨, Gallium Nitride)를 성장시킨 반도체를 쓴다.

이로 인한 높은 생산 비용은 가정과 상업용 빌딩에서의 보급 확대에 걸림돌이다. 여러 가지 시도를 하던 중 연구팀은 결함을 없애는 대신 나노 양자점이 결함 주변으로 몰리는 표면이동 현상을 이용, 이종(異種) 반도체 간 성장 시 발생하는 결함이 전달되지 않도록 하는 방법을 고안했다. 연구팀이 개발한 '자기정렬 결함감소(Self-Aligned Dislocation Annihilation)' 기술은 기존방식보다 100분의 1이하의 결함 밀도를 갖는 고품질 반도체를 성장시킬 수 있다. 3인치 기준에서는 실험 결과, 모토로라나 인텔에서 사용하는 기술보다 결정질이 약 5배가량 우수했다.

공정은 단순하면서도 원하는 위치에만 선택적으로 적용할 수 있는 장점이 있었다. 연구팀이 결국 실리콘 기판 위에 화합물 반도체를 성장시키는 원천기술의 자체개발에 성공한 것이다. 오 교수는 "개발된 기술은 실리콘 반도체의 경제성과 화합물 반도체의 고성능을 모두 갖추고 있다”며 “다양한 응용제품 개발에 쓰일 수 있다"고 설명했다. 현재 오 교수의 기술은 국내는 물론 미국과 대만 등 반도체 강국에도 특허로 등록돼 있다.

◆ "전력소자 분야 목표…2개 벤처 창업, 가능성 보여줄 것"

프론티어사업을 통해 원천기술 개발에 성공한 오 교수는 '우수유망기술 도약지원사업'을 통해 해당 기술이 적용된 전력소자 개발에 나섰다. 단순 개념과 가능성이 아닌 사업모델을 보여줘 계속적인 투자와 기업체의 참여를 이끌어내기 위해서다. 연구팀이 기술을 적용한 분야는 전력반도체 분야. 전력반도체 시장은 향후 시장 전망이 매우 유망하다. 세계 에너지 사용량의 약 70%를 차지하고 있는 미국과 EU의 지난 10년간 에너지 사용을 보면, 기존 에너지 자원은 크게 변화가 없지만 '네가와트(Negajoules)'는 크게 늘었다. 즉 에너지 효율을 높여 에너지를 적게 쓰면서 가용 에너지를 늘려온 것. 특히 조명과 산업용 모터에서 현재보다 25% 정도를 절감할 수 있는 잠재력이 있다. 시장조사 전문기관인 IMS 리서치에 따르면, 전력반도체 시장은 2015년까지 50% 가량 성장, 총 240억 달러의 시장 규모에 이를 것으로 전망하고 있다.

"산업용 모터 드라이브, 신재생 에너지, 하이브리드 등 전기자동차, PC, 서버, 조명 애플리케이션, 소비가전 등 모든 분야에서 화두는 에너지 손실을 최소화하는 효율적인 전원공급기를 개발하는 것입니다. 지금까지는 파워일렉트로닉스(power electronics)가 마이크로일렉트로닉스(microelectronics)에 비해서 기술적으로 어려우면서도 매력적이지 못해 좋은 엔지니어들을 확보하지 못했지만 최근엔 나노와 융합하며 관심을 받고 있습니다."

오재응 교수는 "높은 내전압을 필요로 하는 파워일렉트로닉스에선 실리콘이 적당한 물질이 아니기 때문에 화합물반도체가 반드시 필요하다"며 "현재 개발 중인 600V급 '저결함 실리콘 기판 GaN 트랜지스터'는 1년 만에 빠른 속도로 선두 연구그룹을 따라잡고 있다"고 설명했다.

▲실리콘 기판 위에 제작된 질화갈륨 트랜지스터의 항복전압이 1000 V 가 넘는다 ⓒ2011 HelloDD.com

실제로 미국, 유럽, 일본을 중심으로 전력반도체 분야에서 많은 연구들이 진행 중이다. 인텔과 IBM 등을 주축으로 한 미국과 도요타·산켄·마쓰시다 등 다수의 기업이 뛰어든 일본은 2000년대 중반부터 연구가 진행됐고, 독일의 종합 반도체기업 인피니언테크놀로지는 지난해 12월 독일연방교육연구부(BMBF)의 지원을 받아 화합용 반도체 기반 전력용반도체를 개발하는 '뉴랜드(NEULAND) 프로젝트'를 진행한다고 발표했다.

우리나라도 올해 삼성전자, LG, 포스코 등이 전력반도체 연구에 착수했다. 오재응 교수는 올해 7월, 기술이전을 통해 2개의 벤처도 창업했다. 하나는 서울대학교가 공동 참여하는 디바이스 제작 회사고, 다른 하나는 관련 산업에 대한 기술적 컨설팅을 맡는 회사다. 디바이스 제작 회사는 궁극적으로 프로토타입(prototype) 제작까지 가기 위해 설립한 곳으로 단기간 매출이 발생하는 곳은 아니지만, 컨설팅 회사는 창업 3개월 만에 독립적인 운영은 가능한 수준으로 실제 매출이 발생하고 있다.

오 교수는 회사를 창업한 이유에 대해 "기술에 숙련된 인력들이 지속적으로 함께 하기 위한 것이 가장 컸다"며 "함께 고생한 박사과정 학생들이 열정과 의지를 보여준 덕분에 창업이 가능했다"고 설명했다. 그는 이어 "현재의 재원과 인프라로 최종 제품까지 만들어낼 순 없겠지만 산업체에서 매력을 느낄 만한 가능성을 보여주겠다"고 피력했다. "연구인생 전부를 반도체 에피 성장 연구만 했는데, 프론티어 연구는 저한테 굉장히 좋은 기회였습니다.

상용화로 갈 수 있다는 것을 보여줄 수 있었으니까요. 무엇보다 관련 분야 엔지니어들과 지속적으로 토론하고 커뮤니케이션하며 경쟁할 수 있었던 것이 가장 큰 장점이었습니다. 엔지니어링은 이러한 커뮤니케이션과 경쟁이 매우 중요한 것 같습니다. 연구자들에게 앞으로도 이러한 기회가 많아지길 기대합니다."