Les fibres optiques peuvent être classées en deux catégories selon le diamètre de leur cœur et la longueur d'onde utilisée : fibres monomodes et multimodes. Un mode correspond à un trajet lumineux.
Les fibres multimodes, ont été les premières sur le marché. Elles ont pour caractéristiques de transporter plusieurs modes. Du fait de la dispersion modale, on constate un étalement temporel du signal proportionnel à la longueur de la fibre. La dispersion modale (de polarisation) (PMD) caractérise l'étalement du signal. Ce phénomène est dû à des défauts dans la géométrie des fibres optiques qui entraînent une différence de vitesse entre les modes se propageant sur différents axes de polarisation de la fibre. En conséquence, elles sont utilisées uniquement pour des bas débits ou de courtes distances. La dispersion modale peut cependant être minimisée (à une longueur d'onde donnée) en réalisant un gradient d'indice dans le cœur de la fibre. Elles sont caractérisées par un diamètre de cœur de plusieurs dizaines à plusieurs centaines de micromètres (50 ou 62,5 µm pour le bas débit). Cependant les fibres les plus récentes, permettent d'atteindre le Gbit/s sur des distances de l'ordre du km. Les longues distances ne peuvent être couvertes que par des fibres monomodes.
Pour de plus longues distances et/ou de plus hauts débits, on préfère utiliser des fibres monomodes (dites SMF, pour Single Mode Fiber), qui sont technologiquement plus avancées car plus fines. Leur cœur, très fin, n'admet ainsi qu'un mode de propagation, le plus direct possible c'est-à-dire dans l'axe de la fibre. Les pertes sont donc minimes (moins de réflexion sur l'interface cœur/gaine) même à haut débit ou sur de très longues distances. Les fibres monomodes sont donc adaptées pour les lignes intercontinentales (câbles sous-marin). Une fibre monomode n'a pas de dispersion intermodale. En revanche, il existe un autre type de dispersion : la dispersion intramodale, ou dispersion chromatique. Cela est dû au fait que l'onde ne soit pas totalement monochromatique: toutes les longueurs d'onde ne se propageant pas à la même vitesse dans le guide il en résulte un élargissement de l'impulsion dans la fibre optique. Les fibres monomodes sont caractérisées par un diamètre de cœur de seulement quelques micromètres (9 µm pour le haut débit).
La longueur d'onde de coupure est la longueur d'onde λc en dessous de laquelle la fibre n'est plus monomode. Ce paramètre est relié à la fréquence normalisée, notée νc, qui dépend de la longueur d'onde dans le vide λ0, du rayon de cœur a de la fibre et des indices du cœur nc et de la gaine ng. La fréquence normalisée est exprimée par :
Une fibre est monomode pour une fréquence normalisée νc inférieure à 2.405. La fréquence normalisée donne une indication directe sur le nombre de modes M qu'une fibre multimode peut contenir :
.