Fjorten lag var kvalifisert til ishockeyturneringen. De seks beste landene var automatisk kvalifisert til første runde. Den innledende runden bestod av de to siste kvartfinalistene rangert som nummer 7 og 8, vertsnasjonen Japan samt fem andre land som hadde kvalifisert seg gjennom en serie av kvalifiseringsturneringer.[1]
For å kvalifisere seg direkte til OL skulle landet være rankert som en av de åtte beste landene i etterkant av ishockey-VM 1995. Canada, Finland, Russland, Sverige, Tsjekkia og USA var som de 6 beste lagene ved ishockey-VM 1995 automatisk kvalifisert til turneringen og samtidig direkte kvalifisert til første runde. Landene rangert som nummer 7 og 8 (henholdsvis Frankrike og Italia) og vertsnasjonen Japan (18. plass) var kvalifisert til den innledende runden.[1]
Ungarn (26), Jugoslavia (28), Kroatia (30) og Israel (35) skulle spille regionale førkvalifiseringskamper for retten til å spille i den olympiske førkvalifiseringen.[1]
I den ene serien vant Ungarn kontrollert over Kroatia med 13–0 og kvalifiserte seg dermed til den olympiske førkvalifiseringen. Hellas (38) slo Israel 10–2 i januar 1996 men resultatet ble annullert og omgjort til en 5–0-seier til Israel på grunn av at Hellas hadde anvendt uberettigede spillere. I mars 1996 vant Jugoslavia 5–3 over Israel. Denne kampen ble også annullert og omgjort til en 5–0-seier til Jugoslavia da Israel hadde anvendt en uberettiget spiller av russisk herkomst.[1]
Landene rankert fra 13-. til 33.-plass samt de to vinnerne av den første kvalifiseringsrunden skulle spille innledende OL-kvalifiseringsturneringer høsten 1996. Slovakia (13), som vinneren av VM pulje B 1995, var kvalifisert til den endelige kvalifiseringsturneringen mens nylig nedrykkede Sveits (12) skulle spille i andre runde. Vinneren av hver gruppe gikk videre til den endelige olympiske kvalifiseringen.
Sveits var favorittene til å gå videre til den endelige kvalifiseringsrunden og gikk ubeseiret gjennom turneringen. Den siste kampen mot Storbritannia i Sheffield foran 5278 tilskuere skulle vise seg å være avgjørende da britene hadde overrasket og ville kunne kvalifisere seg med en seier over sveitserne. Etter at sveitserne tok ledelsen to ganger i overtallsspill utlignet britene først gjennom et overtallsmål av Tim Cranston og tok deretter ledelsen etter et mål av Doug McEwen. Vjeran Ivankovićs mål ni minutter senere reddet sveitserne, som med uavgjort kvalifiserte seg til den endelige kvalifiseringsrunden. Kvalifiseringsturneringen, som mange hadde forventet at sveitserne ville dominere, hadde vist seg å være vanskeligere enn forventet.[2]
Ishockeyturneringen under de Asiatiske vinterleker 1996 talte som førkvalifiseringsturneringen for Asia, og ble arrangert i Harbin i Kina i perioden 5. til 8. februar 1996. Kasakhstan vant alle sin tre kamper i serien for menn. Japan kvalifiserte seg som vertsnasjon direkte til OL-turneringen. Dermed talte Japans kamper ikke med i statistikken for OL-kvalifiseringen.[1][2]
Gruppe A bestående av Tyskland (9), Sveits (12), Slovakia (13) og Ukraina (23) ble arrangert i Oberhausen i Tyskland.
Tyskland og Slovakia kvalifiserte seg til OL-turneringen. Kampen om tredjeplassen i gruppen og muligheten til å spille playoff-kamp om den siste OL-plassen skulle vise seg å bli et tett oppgjør. Ukraina. Etter at Viktor Gontsjarenko bragte Ukraina i ledelsen etter bare to minutter var sveitserne praktisk talt slått ut for det meste av kampen, men en utligning av Gian-Marco Crameri i starten av tredje periode og et mål av Marcel Jenni åtte minutter før slutt sikret sveitsisk seier. Sveitserne skulle spille playoff-kamp mot nummer tre i den andre gruppen (Østerrike).[1][2]
Gruppe B bestående av Norge (10), Østerrike (11), Belarus (21) og Kasakhstan (22) ble arrangert i Innsbruck i Østerrike.
Den første kampen mellom Norge og Kasakhstan endte uavgjort 3−3 etter en ujevn norsk prestasjon. Norge tok ledelsen halvveis inn i første periode, men Kasakhstan tok etterfølgende ledelsen to ganger. Norge utlignet til 3−3 etter en scoring av Erik Tveten tidlig i tredje periode og det norske laget trodde de ville hale i land seieren. Men den norske stjernespilleren Espen «Shampo» Knutsen pådro seg en lyskeskade ble skadet like før slutt, hvilket ville få betydning for Norges spill i resten av turneringen.[3][4] I dagens andre kamp vant Belarus 6−2 over vertsnasjonen Østerrike.
På turneringens andre kampdag skulle Belarus spille mot Norge, som måtte spille uten deres skadede, hjemsendte stjerne Knutsen. I en kamp som Norge kontrollerte sikret Ole Eskild Dahlstrøm og Morten Finstad en norsk ledelse, men kort før slutt klarte det norske laget ikke å klarere målgården etter at Robert Schistad hadde reddet et skudd. Andrej Rassolko straffet Norge og utlignet for Belarus. Kampen endte 2−2 og Norge var nå avhengig av seier over Østerrike for å kvalifisere seg til OL. For å gjøre situasjonen verre slo stjernebacken Petter Salsten også opp sin kneskade i løpet av kampen.[5][6] Vertene slet også på turneringens andre dag; de frustrerte østerrikerne ble udisiplinerte i løpet av kampen og tapte til sist 1–4 til Kasakhstan.
9. februar 1997 ble beskrevet som «Hockey-Norges svarteste dag». Kampen mellom de tidligere sovjetrepublikkene Belarus og Kasakhstan endte uavgjort 4−4 etter en kamp som ble beskrevet som en «planlagt parodi» og som ble kritisert av både østerrikerne og nordmennene. Med sluttresultatet 4−4 ville begge være OL-klare uansett resultatet av Norges kamp mot Østerrike. Norge startet kampen uforberedt og lå under allerede etter tre minutter etter et mål av Simon Wheeldon. Dieter Kalt doblet ledelsen i slutningen av perioden og Mario Schaden økte til 3−0 halvveis inn i midtperioden. Ole Eskild Dahlstrøm reduserte til 3−1 halvveis i tredje periode men kampen ble punktert da Richard Nasheim satte 4-1 i tomt mål.[7][7][8][9] Østerrike endte på 3. plass i gruppen og skulle dermed spille en playoff-kamp mot nummer tre i den andre gruppen (Sveits). Norge endte sist i gruppen og var dermed for første gang siden 1976 ikke med i den olympiske ishockeyturneringen.
Nummer tre i hver gruppe (Sveits og Østerrike) skulle spille en playoff-kamp om den siste OL-plassen. Østerrike slo Sveits 2–0 og kvalifiserte seg dermed til OL.