Ostrov Rhodos byl osídlen již ve třetím tisíciletí. Při cestách Egypťanů a Féničanů do Středomoří se stal jejich častou zastávkou. Kolem roku 1400 před naším letopočtem ho obsadili Mykéňané a Kréťané, kteří s sebou přinesli mykénskou kulturu. Ve 12. století se Rhoďané zapojili do trojské války, později ostrov dobyli Dórové a založili tři samostatná města Lindos, Kamiros a Ialyssos, která společně tvořila silný námořní svaz.
V 6. století získal Rhodos kolonie na Sicílii a na pobřeží Francie, Itálie a Španělska. Po krátké nadvládě Peršanů převzali vládu nad ostrovem Athéňané a v roce 477 se Rhodos připojil k Attickému námořnímu svazu. Roku 408 došlo k založení hlavního města Rhodos.
Ve 3. století před naším letopočtem obléhal ostrov po celý rok Makedonec Demetrios Poliorketes. Neuspěl a na počest vítězství Rhoďané zhotovili sochu Rhodský kolos, která neměla ve světě obdoby. Bronzová socha se 34 metry výšky patřila mezi sedm divů antického světa. Ovšem netrvalo dlouho, město a velkou část ostrova zpustošilo zemětřesení a kolos se zřítil.
Znovu se Rhodos začal rozvíjet kolem 2. století před naším letopočtem díky finanční podpoře mnohých městských států z oblasti dnešního Řecka. Obnovily se stavby a ostrov se na čas stal významnou námořní a obchodní velmocí.
Za následného kulturního rozmachu měly zdejší filozofové a řečnické školy vynikající pověst. Vzniklo také množství mramorových soch, mezi nimi například slavné sousoší Laokoon, dnes umístěné ve Vatikánu. Mezi ty, kteří studovali na rhodských školách, patřili i Cicero, Caesar, Pompeius, Brutus či Cassius, který později ostrov obléhal a kolem 3 000 soch nechal převézt do Říma.
V prvních staletích našeho letopočtu docházelo k pustošení ostrova. V roce 269 Rhodos přepadli Gótové, v 7. století Peršané a posléze Arabové. Od 11. století o Rhodos bojovali Benátčané s Janovany. Benátčané sice zřídili na ostrově obchodní zastoupení, avšak v roce 1243 Janované zvítězili. Z této doby pochází velké množství kostelů, později přestavěných na mešity.
V letech 1309 až 1522 byl ostrov pod ochranou několika stovek rytířů řádu johanitů. Pod vedením sultána Sulejmána však napadli ostrov roku 1522 Turci. Po šestiměsíčním odporu se rytíři vzdali, Rhodos opustili a usadili se na Maltě. Až do začátku 20. století byl ostrov ovládán Turky. Během této doby došlo k hospodářskému úpadku a mnoho Řeků ze své rodné země odešlo.
Roku 1912 přešel Rhodos v rámci souostroví Dodekanessos pod správu Itálie, poté ho obsadili Němci. Nakonec ostrov převzali Britové, kteří Rhodos roku 1948 předali zpět Řecku.
