제가 아는 대로 말씀 드리자면..

(정확히 100% 다 맞는지는 모르겠지만, 제가 들어온 story입니다)

RDBMS의 시작은 1960년대 말 Codd 교수가 발표한 Relation 이론에 기초합니다. 이때부터 이론적으로 Relation에 기반한 DBMS의 연구가 이루어졌지만, 실용적으로 쓸 수 있는 시스템은 없는 상태였습니다.

그러다가 1970년대 중반 IBM 산호세 연구소에서 System R이라는 프로젝트에서 처음으로 실용적인 RDBMS를 개발하였습니다. 그리고 비슷한 시기 버클리 대학의 연구자들이 RDBMS이론들을 가지고 INGRES 시스템을 개발하였습니다. 그리고, 버클리 출신의 많은 석학들이 System R 프로젝트에 참여하였고, 이 두 프로젝트에 의하여 RDBMS 기술이 대중적으로 성공할 수있게 되었습니다. (이 중 Jim Gray라는 사람은 이 공로로 Computer 계의 노벨상이라고 할 수 있는 Tuning Award를 1998년 수상합니다.)

아무튼 System R과 Ingres는 수많은 RDBMS의 모태가 된 시스템입니다.

하지만, 실제 상업적으로 RDBMS를 성공시킨 곳은 IBM이 아니라 Oracle이었습니다. IBM이 메인 프레임 시장에서의 성공에 도취되어 제품 출시를 늦추고 있는 사이 Oracle이라는 신생 기업이 RDBMS를 발표했고(발표할 당시 기술력은 IBM보다 훨씬 못했었다고 합니다) 시장을 선점하게 되었죠.

그 이후 IBM, Infomix, Sybase 등 많은 업체에서 RDBMS 제품을 내놓았고,

Microsoft는 초기 Sybase 엔진을 이용하여 MS-SQL Server를 내놓았지만, 성능이 미약하여... 호응을 얻지 못하다가 SQL-Server 6.0이후 RDBMS 시장의 또다른 강자가 되었습니다.

현재는 IBM, Oracle, Microsoft 세 회사가 RDBMS 시장을 거의 장악하고 있으며 그 외의 회사는 실제 상용 DBMS시장에 없다고 봐도 과언이 아닐 정도입니다. (상용 시장의 80~90% 이상을 세 회사가 장악하고 있습니다.)

90년대 RDBMS의 아성을 무너뜨리기 위하여 학계와 일부 신생 기업이 DBMS에 OO의 개념을 적용한 OODBMS를 개발하였으나 빅3(Oracle, IBM, MS)에서 자신의 RDBMS에 OO개념을 적용시킨 ORDBMS를 내놓으면서(현재 빅3의 RDBMS는 실제로 ORDBMS입니다.) 시장에서 사라져갔습니다.

또한 MySQL이나 Postgres, mSQL, Berkley DB 등의 특수한 DB들이 있습니다만, RDBMS의 기본 기능들 중 트랜잭션 처리나 회복, 등 많은 기능이 빠져있어 상용 RDBMS로 부르기에는 한계가 있다고 할 수 있습니다. 예를 든다면 일반적인 빅 3의 제품이 항공모함급이라면 MySQL 등은 쾌속선 정도라고 할 수 있겠죠. 대신 소스 크기가 작고 특별한 환경에서 무리 없이 쓸 만큼의 속도를 지원하고 소스가 공개되어 있으므로 간단한 웹 응용이나 Embedded환경에서 많이 쓰이고 있습니다.

참고 : http://now.cs.berkeley.edu/~brewer/cs262/SystemR.html