Muitos dos usuários que estão começando no mundo linux acabam achando muito estranho a forma que os diretórios são divididos, uma estrutura que é a mesma do Unix, muito bem organizada e que na minha opinião outros sistemas operacionais irão procurar seguir.
Devido a dificuldade de muitos em entenderem essa organização de diretórios, procurarei aqui fazer uma breve e sucinta apresentação dos mesmos.
Observe a imagem:

Agora vamos as explicações de cada diretório:
/bin: É o diretório onde encontramos os arquivos executáveis (binários) e que são utilizados por todos os usuários.
/boot: Arquivos relacionados ao kernel e ao boot. É onde encontra-se o próprio Kernel, e, os arquivos de configuração do GRUB.
/dev: É nele que contém os arquivos que representam os dispositivos físicos (hardware), como os HD's, placas de som, de vídeo, disposivos da placa-mãe, impressora etc.
/etc: Este é um diretório primordial. Aqui encontram-se os arquivos de configuração do sistema operacional e da maioria dos programamas.
/lib: Bem simples de lembrar, o próprio nome já diz, é onde encontram-se algumas das bibliotecas do sistema.
/mnt: Em subdiretórios deste diretório, são montados os dispositivos de armazenamento. Diretório de pontos de montagem.
/opt: Neste diretório encontram-se os arquivos de programas de terceiros, que não vieram com a sua distribuição.
/proc: Neste diretório são armazenados os arquivos temporários do kernel.
/root: Aqui ficam os arquivos pessoais do superusuário.
/sbin: É onde ficam os arquivos executáveis do superusuário. Geralmente encontram-se aqui programas que só poderão ser rodados pelo superusuário.
/tmp: Diretório que armazena arquivos temporários.
/usr: É um dos diretórios mais importantes. Aqui ficam muitas coisas, tais como arquivos executáveis, bibliotecas, código-fonte, etc...
/var: Nele encontram-se arquivos variados como o spool de impressão, os arquivos de cache e alguns arquivos temporários.
Espero que tenham gostado, repare que essa separação é um modo claro e simples de organizar todos os tipos de arquivos que um sistema operacional tenha.