Dopo la sequenza introduttiva ambientata nel manicomio Arkham Asylum, il gioco inizia il 6 settembre 1915, quando l'investigatore di polizia Jack Walters (doppiato da Milton Lawrence) viene convocato presso una casa padronale decrepita a Boston, Massachusetts. La casa è abitata da un piccolo culto bizzarro chiamato the Fellowship of the Yith, guidato da Victor Holt che ha chiesto esplicitamente che Walters venga a parlargli. Rifugiandosi da una sparatoria in corso, Jack si ritrova separato dalla polizia e intrappolato all'interno della villa, senza altra opzione che investigare. Quando il resto della polizia irrompe finalmente, trovano i cultisti morti per suicidio di massa e Walters apparentemente pazzo. Viene internato al sanatorio di Arkham, dove resta per alcuni anni.
Sei anni dopo, Walters viene rilasciato e diventa un investigatore privato. Il 6 febbraio 1922 accetta un caso di persona scomparsa a Innsmouth, una città costiera xenofoba, e teatro della recente scomparsa di Brian Burnham, un commesso che era stato inviato lì per aprire un negozio locale per la catena First National Grocery. Arrivando nella città isolata, che sembra spopolata e in uno stato di collasso, Jack chiede inutilmente informazioni su Brian. Rimane la notte in un hotel, dove sfugge a malapena a un tentativo di assassinio e poi fugge da una caccia da parte di una folla armata. Da quel momento in poi, Jack è costretto a muoversi furtivamente tra vicoli, edifici e fognature di Innsmouth, evitando pattuglie mortali della polizia corrotta della città e i cultisti che lo cercano. Acquista armi per difendersi e incontra l'agente sotto copertura Lucas Mackey, che gli dice che la città è sotto indagine governativa. Jack alla fine trova Burnham e la sua ragazza Ruth, ma la loro auto si schianta mentre fuggono da Innsmouth, uccidendo Brian e ferendo Jack (non è noto se Ruth sia morta o meno).
Jack si riprende dall'incidente e, a seguito di un brutale interrogatorio, viene affidato all'FBI, guidato personalmente da J. Edgar Hoover. L'8 febbraio, Jack aiuta Hoover e l'FBI a fare irruzione nella Marsh Gold Refinery, dove viene attaccato da un'antica creatura nota come Shoggoth e scopre un santuario di Cthulhu. La raffinineria viene poi demolita mediante esplosivi.
Dopo l'attacco alla raffinineria, l'esercito degli Stati Uniti avvia un'invasione congiunta di terra e mare a Innsmouth il 9 febbraio. L'unico ostacolo all'attacco su vasta scala è la sede dell'Esoteric Order of Dagon, un'organizzazione religiosa incentrata su due demigod sottomarini e su Cthulhu, che tiene l'intera città nelle sue grinfie. L'edificio si rivela irraggiungibile per la Guardia Costiera e i Marines, ma Jack trova un ingresso attraverso un vecchio ingresso di contrabbando (guardato da una prole stellare di Cthulhu). All'interno, Jack libera l'agente Mackey, che era stato rapito per un sacrificio rituale, e abbatte lo scudo magico che protegge l'edificio. Dopo aver scoperto una camera segreta, cade attraverso il pavimento di un tunnel che conduce al mare.
Jack viene salvato dall'USS Urania, una cutter della Guardia Costiera che fa parte di un gruppo diretto verso Devil's Reef il 10 febbraio, su indicazione di una pista fornita dall'FBI. Durante il viaggio, maghi sulla scogliera evocano potenti maremoti per distruggere la flottiglia, ma Jack prende il controllo del cannone della nave e li uccide. Gli Deep Ones, umanoidi-pescecani, lanciano un attacco di massa sull'Urania, uccidendo la maggior parte dell'equipaggio e disattivando i motori. Jack riesce a riattivare il motore solo per essere attaccato dallo stesso gigantesco Father Dagon sulla prua. Jack riesce a sconfiggere il demigod con il cannone, ma non prima che provochi l'affondamento dell'Urania. Jack sopravvive all'incontro e si ritrova sulla Devil's Reef, dove scopre antichi tunnel di contrabbando sotto il fondale marino, che lo conducono alla città sottomarina di Y'ha-nthlei.
La città si trova al di sotto di Devil's Reef ed è casa dei Deep Ones e dei membri dell'Ordine Esoterico di Dagon. I sottomarini della Marina cercano di torpedare Y'ha-nthlei, ma vengono fermati da una barriera magica che protegge la città. Il Tempio di Dagon è la fonte della barriera, ma l'ingresso è sigillato per prevenire interferenze. Jack trova un altro ingresso attraverso antichi tunnel temuti dai Deep Ones sul fondo delle fondamenta della città. A quanto pare, questo passaggio, che conduce al tempio, è una prigione antica per i polipi alati, nemici della Grande Razza degli Yith. Jack riesce a sconfiggerli con l'aiuto di un'arma energetica Yithian. Jack entra quindi nel Tempio di Dagon e uccide Mother Hydra, la cui canzone genera la barriera, rendendo sordi alcuni Deep Ones al suo canto, permettendogli di prendere il controllo di loro. Con la barriera abbassata, i sottomarini attaccano la città, mentre Jack scappa attraverso un portale che riporta al quartier generale dell'Ordine Esoterico di Dagon.
Alla fine, si scopre che un Yithiano ha scambiato le menti con il padre di Jack Walters nel momento della concezione di Jack. Nella carne, Jack Walters è umano, ma ha ereditato poteri psichici yithiani, che furono la ragione dell'interesse dei cultisti nei suoi confronti, e spiega perché ha visioni di pericolo imminente e della città-libreria dei Yithiani di Pnakotus, nonché la sua capacità di controllare i Deep Ones nel Tempio di Dagon. Rinchiuso di nuovo all'Arkham Asylum, Jack si impicca il 16 febbraio 1922, incapace di sopportare la realtà di se stesso e di ciò che ha visto. Il gioco dovrebbe basarsi sugli scritti nel diario di Jack, scoperti nel 1924.