Podle archeologických nálezů byl ostrov osídlen již před 5 tisíci lety. V 11. století před naším letopočtem sem přišli Jónové, první řečtí obyvatelé. Ostrov jim sloužil jako opěrný bod, odkud kolonizovali a podrobovali si Malou Asii.
V 7. století se ostrov díky své poloze zařadil mezi hlavní centra řeckého světa a obchodoval s národy u Černého moře, s Egyptem, Libyí a Korintem. Tehdy se zde objevily první mince coby platební prostředek.
Největšího politického, hospodářského a kulturního rozkvětu dosáhl ostrov za vlády tyrana Polykrata (537 až 522). Se svou silnou flotilou si podrobil mnoho ostrovů, založil kolonie u Černého moře a na Sicílii. Obehnal staré město Samos (dnešní Pythagorion) mohutnými hradbami a zbudoval unikátní vodovod. V této době tady postavil architekt Rhoikos velkolepý chrám bohyně Héry. Na Polykratově dvoře žili muži věhlasných jmen jako básník Anakreón, proslavený svými písněmi o lásce, ženách a vínu, nebo nám známější filozof Pythagoras.
Když byl Polykrates i přes spojenectví s Peršany popraven satrapou Oriotem, k moci se dostal jeho bratr Sylosónt a ostrov se stal součástí Perské říše. Nastalo dlouhé období řecko-perských válek. Po slavné námořní bitvě u blízkého mysu Mykalé přešel Samos do Athénského námořního spolku. Roku 440 se však ostrované proti spolku vzbouřili. Následně byli poraženi vojevůdcem Periklem.
Ve 3. století před naším letopočtem se ostrov stal součástí říše Ptolemaiovců. Ze závislosti na Říši římské se vymanil až roku 70 našeho letopočtu. V 7. století postihly ostrov arabské nájezdy, v 10. století ho používali jako válečnou základnu Arabové a Byzantinci. Později sem přišli Benátčané a Janované.
Na sklonku 15. století byl ostrov vypleněn Turky, kteří jej vylidněný a zpustošený později zabrali. Od roku 1832 se již těšil jisté autonomii. Roku 1912 byl osvobozen italskou flotilou a následně včleněn do Řecka.
Po první světové válce byl Samos spolu s dalšími ostrovy pro neuvážený pokus obsadit část Turecka demilitarizován. Když kapitulovala roku 1943 ve druhé světové válce Itálie, obsadili ostrov Britové, avšak po těžkém bombardování ho dobyli Němci.
V současné době je klidnou odpočinkovou destinací a díky své poloze a význačným památkám vyhledávaným místem pro letní dovolenou.
