A híres fasori gimnázium diákja volt. 1937-ben megnyerte az országos középiskolai matematikai versenyt. Gyógyszerész apja kívánságára 1942-ben ő is ilyen végzettséget szerzett, majd a botanikai tanszéken lett doktorandusz - származása miatt máshová nem jutott be. 1944-ben az ország német megszállása után munkaszolgálatosnak hívták be, a nyilas puccs után megszökött, és egy jezsuita rendházban bujkált.

1947-ben filozófiai doktorátust szerzett, és tanársegéd lett a szociológiai tanszéken, de közismerten marxistaellenes nézetei miatt le kellett mondania állásáról. Gyógyszertáruk államosítása után, 1950-ben leendő feleségével a Fertő-tó nádasain keresztül Ausztriába szöktek, majd Ausztráliába mentek. Harsányi magyar diplomáját itt nem ismerték el, ezért fizikai munka mellett végezte el a közgazdasági egyetemet.

Leszerelés játékelmélet alapján

1956-ban Rockefeller-ösztöndíjjal az amerikai Stanford Egyetemre került, ahol 1959-ben PhD közgazdasági tudományos fokozatot szerzett. Disszertációja már a játékelméletet tárgyalta. 1958-tól 1961-ig az ausztráliai nemzeti egyetemen, utána Detroitban tanított.  1966-tól 1990-es nyugdíjba vonulásáig a berkeleyi Kaliforniai Egyetem professzora volt.

Berkeley-ben hívták meg abba a kutatócsoportba, amely a játékelmélet alapján a szovjet-amerikai leszerelési tárgyalásokat készítette elő. (A játékelméletet Neumann János és Oskar Morgenstern dolgozta ki: ebben a szembenálló felek bizonyos szabályok, logikai elvek betartása mellett küzdenek, mint a sakkban, de a pókerhez hasonlóan nagy szerepe van a blöffölésnek.)

Harsányi János 1967-68-ban írt háromrészes tanulmányában rendszeres módszert javasolt a korlátolt információjú játékok elemzésére. Ezt finomította tovább Reinhard Selten, Harsányi barátja és munkatársa. Elméletükben az volt az új, hogy a játékosok csak részben ismerik ellenfelük céljait és stratégiai eszközeit, akárcsak a leszerelési tárgyalásokon. A modell minden eleméhez egy valószínűségi érték tartozott, a kutatások központjában a versenyzők cselekedeteinek előre jelezhetősége állt. Ezt az elméletet alkalmazta az amerikai állam az olajkutak árverésein, és nyeresége a korábbi tízszerese lett.

Kooperatív és a non-kooperatív játékok

A budapesti születésű tudós különböztette meg először ma ismert formájukban a kooperatív és a non-kooperatív játékokat: egy játék akkor kooperatív, ha az elkötelezettségek (megállapodások, ígéretek és fenyegetések) kikényszeríthetők és teljes mértékben kötik a résztvevőket. Az etikai problémák matematikai modellezése terén is maradandót alkotott; 1973-ban a véletlenszerű cselekvések magyarázatát adta meg, többek között kizárva azt, hogy az emberek valójában véletlenszerűen cselekednének.

Harsányi János, John Nash és Reinhard Selten 1994-ben közgazdasági Nobel-díjat kapott "a nem kooperatív játékok elméletében az egyensúlyanalízis területén végzett úttörő munkásságukért".

Harsányi élete végéig kiválóan beszélt magyarul. Neumann Jánossal és Wigner Jenővel közös emléktáblája a Városligeti fasorban, régi gimnáziumuk épületén látható.

Az Alzheimer-kórban szenvedő Harsányi halálát szívroham okozta, 2000. augusztus 9-én hunyt el kaliforniai otthonában.