Il termine "flotilla" deriva dallo spagnolo "flotilla", diminutivo di "flota" che significa "flotta". La parola "flota" proviene dal verbo "flotar" che significa "galleggiare", il quale a sua volta deriva dal francese antico "floter" e da una lingua germanica come il franco o l'antico norreno, tutti legati al concetto di "fluire" o "galleggiare". Quindi "flotilla" indica originariamente una piccola flotta o un gruppo di piccole navi, e si usa per indicare una formazione navale di piccole imbarcazioni spesso parte di una flotta più grande.
In sintesi, si chiama così perché indica un piccolo gruppo di navi che galleggiano insieme come una unità, derivando dal concetto di fluttuare o galleggiare sull'acqua.