고등과학원은 우리나라 기초과학을 세계적인 수준으로 끌어올리기 위해 과학기술처 산하 출연연구소로 설립되었다. 1995년 12월 KAIST 이사회에서는 고등과학원 설치 및 운영이 공식적으로 승인되었다. 당시 과학기술처장관이었던 정근모의 지대한 관심 아래 KAIST의 신성철을 단장으로 하는 고등과학원 설립추진위원단이 구성되었으며, 수학, 물리, 화학, 생물의 4개 학부를 중점적으로 육성한다는 계획이 구체화되었다.
  이후 1996년붙터 본격적인 설립 준비와 함께 그 해 8월에 고등과학원장 선임위원회가 구성되었고, 고등과학원의 조속한 개원을 위해 본격적인 작업이 진행되었다. 이런 일환으로서 1994년 필즈상(Fields Medal) 수상자인 예일대 젤마노프(E. Zelmanov)가 1996년 8월 15일 고등과학원의 최초 석학교수로서 계약이 이루어졌다.
  초기의 여러 여건으로 인하여 우수연구진 확보가 충분치 않은 어려운 상황에서 고등과학원은 서둘러 개원하였다. 1996년 10월 1일 윤덕용 KAIST원장, 명효철 부원장 겸 원장직무대리, 그리고 8명의 직원이 참석한 가운데 고등과학원의 조촐한 개원식이 열렸다.
  1명의 석학교수로 시작한 고등과학원은 곧이어 11월에 김정욱(초대 고등과학원장)과 명효철(당시 부원장 겸 원장직무대리)이 교수로 임용되었고, 수학부에 곽시종, 김인강, 에마누빌로프(Oleg Emanuvilov)가 연구원으로 임용되었다. 이리하여 1996년말 석학교수 1명, 교수2명, 연구원 3명 등 총 6명의 연구진으로 고등과학원이 출발하게 되었다. 고등과학원은 수학부, 물리학부, 계산과학 프로그램이 운영되고 있다.
  1996년 10월 설립당시 수학부, 물리학부의 6명만으로 시작한 고등과학원은 6년동안 계속 성장하여 2000년 9월에 신설된 계산과학부를 포함하여 2002년 현재 총 61명의 연구진을 확보하게 되었다. 이에 따라 연구활동의 범위가 넓어졌을 뿐 아니라 그 수준도 괄목할 만한 성장을 이뤄 오고 있다.
  구체적인 예로 2001년에 106명의 국외 방문연구자를 포함하여 약 200명의 방문 과학자들이 고등과학원에서 연구를 수행하였고, 같은 해에 406회의 세미나 및 국제학술회가 고등과학원에서 개최되었으며, 이로 인해 7000명의 과학자들이 참여하게 되었다. 또한 고등과학원은 1998년 이후로 34명의 우수연구원을 국내외 대학, 연구소에 배출하게 되었다.