Minix - чудовий вибір і описаний в одній з інших відповідей.
Сину
Також врахуйте XINU - XINU не є Unix.
Є також UNIX написано назад.
Є книга Дугласа Комера, яку я вважав добре написаною, добре проілюстрованою та добре промальованою.
Є вбудована Xinu та веб-сайт про навчання з Xinu.
http://xinu.mscs.mu.edu/Teaching_With_Xinu
FreeRTOS
Ще одна невелика ОС, яка в цей час отримує велику любов - FreeRTOS. Він працює майже на всьому. Якщо ви приїхали з Марса і у вас був процесор або плат eval, де він не працює, ви можете прочитати приблизно 10 сторінок документації, змінити близько п'яти файлів, пов’язаних з перериваннями, таймерами та UART, і ви б працювали.
http://www.freertos.org/
Вони стверджують, що він підтримує 31 архітектуру та 18 ланцюгів інструментів. Мій досвід наприкінці 2009 року був хорошим, і я чую, що відтоді він значно покращився.
Інші посилання
Подібні запитання, які можуть мати корисну для вас інформацію, розміщені тут:
/programming/254149/how-do-you-write-a-basic-operating-system
На Linux та багато інших дизайнів операційної системи впливає UNIX, тому це відео, де оригінальні дизайнери (Керніган, Річі, та Томпсон та інші) є інформаційним та отримує ідеї дизайну прямо з джерела.
http://techchannel.att.com/play-video.cfm/2012/2/22/AT&T-Archives-The-UNIX-System
Існує класична, але часто доопрацьована текстова книга операційних систем:
Silberschatz, Galvin, Gagne: Концепції операційної системи, 7-е видання
Можуть бути і новіші видання. Я рідко посилаюся на книгу через продавця книг, але попередній перегляд дуже щедрий, тому, щоб дізнатися більше про операційні системи, будь ласка, перевірте:
http://www.amazon.com/Operating-System-Concepts-Abraham-Silberschatz/dp/0470128720