Unix - это семейство ОС, основанные на идеях (модульным дизайн, т.е. на каждую задачу отдельная утилита; взаимодействие через единую ФС; работа с утилитами через командную оболочку, sh и его вариации) проекта AT&T Unix.
Linux - это семейство Unix-подобных ОС на базе ядра Linux. Хотя стоит уточнить, что традиционно системами Linux считаются те, что используют программы проекта GNU.
"MacOS" не существует. Ранее существовала Mac OS, но после 9 версии она была переименована в macOS (различия macOS и Mac OS очень большие). Это проприетарное ПО, разработанное компанией Apple. Основой macOS является Unix-система Darwin. То есть macOS тоже относится к семейству Unix.
