V průběhu let se ostrov Kos stával kvůli své výhodné zeměpisné poloze, podobně jako ostatní Dodekanské ostrovy, často terčem vojenských útoků. V důsledku toho pak vládli ostrovu cizí okupanti. Za tento historický fakt ale ostrov vděčí alespoň různým stavebním stylům, které ovlivňují celkový obraz ostrova až do současnosti.
Vykopávky a místní tradice dokazují, že byl Kos obýván již od starověku, a to tak zůstalo až dodnes. Historici odhadují, že tu snad existovaly mykénské osady již kolem roku 1500 př.n.l. Vykopávky, které by ovšem tuto domněnku s jistotou prokázaly, dosud chybí. Kolem roku 700 př.n.l. byla většina měst na pobřeží Malé Asie obydlena jónskými Řeky, kteří založili města Kos, Knidos, Halicarnassos, Lindos, Ialyssos a Kamiros, náležející do svazu měst Hexapolis. Tento svaz ale nikdy nedosáhl nějakého významného politického významu.
Starší než všechny vykopávky, které byly provedeny na Kosu je ale doba slavného řeckého lékaře starověku a otce všech lékařů – Hippokrata, který zde pod velkým platanem předával své vědomosti svým studentům. V té době věřili lidé spíš na pomoc boha léčitelského umění Asklépia a jeho dcery Hygiei. Věřili na uzdravení těmito bohy.
Na rozdíl od nich ale Hippokrates a jeho studenti věřili v samoupravující sílu lidí a na léčení zdravým životním prostředím a výživou. Slavná lékařská Hippokratova přísaha, která byla uvedena v život právě tímto duchovním otcem medicíny, provází moderní lékařství dodnes.
Roku 366 př.n.l. se města na ostrově Kos spojila a rozhodla se založit nové hlavní město. Nové město bylo založeno přesně v místech, kde se i dnes stále nachází město Kos. V témže roce začali místní obyvatelé stavět i svatyni pro boha Asklépia.
