Bien que le graphite soit fait uniquement de carbone, comme le diamant, ses atomes sont arrangés différemment. Dans le graphite, les carbones forment de larges feuilles plates (un peu comme des feuilles de papier superposées).

À l’intérieur d’une feuille, les liens sont très solides, mais entre les couches, ils sont très faibles : elles peuvent donc se détacher ou glisser très facilement. C’est cette structure qui rend le graphite friable et facile à casser ou à étaler (comme dans la mine d’un crayon !).