李陵年輕時擔任侍中、建章監。善於騎馬射箭，對人有仁愛之心，謙讓下士，名聲很好。漢武帝認為他具有李廣的風範，命他率領八百騎兵。李陵曾深入匈奴二千餘里，越過居延偵察地形，未遇到匈奴順利返還。後升為騎都尉，帶領精兵五千，駐在酒泉、張掖等地教習箭術以防衛匈奴。

天漢二年（公元前99），漢武帝派遣自己的愛妃之兄、貳師將軍李廣利率騎兵三萬出征匈奴。時為騎都尉的李陵主動請纓，帶領自己親自訓練的五千名弓箭手獨立行動，從側面協助李廣利的正面作戰。但是主帥李廣利沒找到敵人，李陵一部反而遇上了匈奴的主力。面對強敵，李陵將他的弓箭兵戰術運用得出神入化、淋漓盡致。他以輜重車環列為營，命令前列士兵持戟盾防守，後列士兵發弩箭進攻，趁匈奴被射退時再揮兵追擊，殺敵數千人。

匈奴單于震驚於漢軍的勇猛，緊急徵調騎兵，將兵力增至八萬。李陵以他卓越的軍事才能，率領漢軍在十餘天內轉戰幾百裡，以這孤立無援的幾千名弓箭手對抗八萬匈奴騎兵，且戰且退。在退到臨近漢界時，已斬殺敵軍一萬餘人，自己兵力還有三千多，並且一度用連弩突射匈奴單于，使單于狼狽逃走。

就在單于準備放棄這一支難以戰勝的漢軍時，漢軍一名小軍官因受校尉欺侮而投降匈奴，將漢軍手無餘箭前無援軍的底細告訴了單于：“陵軍無後救，射矢且盡！”單于大喜全軍合攻漢軍。漢軍一天之內將剩餘的五十萬支箭全部用盡，最後矢盡援絕。李陵率兵突圍不成後，長嘆了一聲：“無面目報陛下！”就放下長劍，降了匈奴。匈奴單于得到他如獲至寶，將自己的女兒嫁給了他。

如果將李陵投降的原因盡歸於其貪生怕死，似乎不太能讓人信服。作為從小熟諳“雖忠不烈，視死如歸”之道理的名將李廣之後，作為臨十餘倍於己之敵苦戰近十日而毫無懼色的一代名將，生死似乎不應當是特別重大的問題。《答蘇武書》所道：“陵豈偷生之士，而惜死之人哉？寧有背君親，捐妻子，而反為利者乎？然陵不死，有所為也，故欲如前書之言，報恩於國主耳”。這應該是一個比較合理的解釋。更何況司馬遷《報任安書》所言：“身雖陷敗彼，彼觀其意，且欲得其當而報漢。”司馬遷“其文直，其事核，不虛美，不隱惡”，所言是屬實的。

而況李陵在最後關頭，確實是想一死了之的。之所以不死而要受降，或許這是因為他畢竟還年輕氣盛，要是因為“兵不利，戰不善”而兵敗的話，恐怕他早就跟匈奴拼了。然而自己明明被人算計，而功業不成，如此赴死於國事無補，自己也死難瞑目。況且就這樣稀裡糊塗地戰死，對皇帝沒法交代，也愧對他祖父李廣的在天之靈，更對不住那些跟著他拼死血戰的五千將士。投降也是讓兵士們儘可能殺出重圍向漢武報信，似乎別有考慮。李陵欲“有所為也”，自己且暫留此有用之身，待來日尋的時機再立奇功，譬如生擒或刺殺單于，至少也可以向他祖父李廣學習，想辦法逃脫，

李陵本來有機會回到大漢，但是漢武帝的又一次輕率使李陵斷絕了迴歸的念頭。另一名漢朝降將李緒幫助匈奴訓練士兵，但因傳言說他是李陵，於是漢武帝誅殺了李陵的母、弟、妻、子。李陵悲憤對使者說：“吾為漢將步卒五千人橫行匈奴，以亡救而敗，何負於漢而誅吾家？”（我為漢將，以步兵五千人橫掃匈奴，因為得不到救援而失敗，有何負於漢室而殺我全家？）使者說：“漢聞李少卿教匈奴為兵。”（聽說你教匈奴為兵！）李陵說：“乃李緒，非我也。”（《漢書·李廣蘇建傳》）李緒本為漢塞外都尉，居奚侯城，後降匈奴。李陵痛其家因李緒而被誅，便叫人刺殺了李緒。匈奴大閼氏要殺陵，單于將其藏於北方，大閼氏死才回來。

不難看出李陵終究是心繫故國，李陵如果“上念老母，臨年被戮；妻子無辜，併為鯨鯢”，則實在有千萬條理由可以帶上匈奴兵馬，殺回漢地。然而李陵卻沒有這麼作，反而先是冒著生命危險刺殺了李緒，為自己復仇、也為漢家清除了一大隱患；此後更帶著被單于要求而娶之的其之女兒，住到偏遠的地方，基本和匈奴採取不合作的態度。

漢武帝死後，李陵的昔日同僚霍光和上官桀成為朝廷的主要大臣，他們派人去匈奴勸李陵回來，李陵拒絕了。“歸漢容易，但恐回去後再受侮辱。大丈夫豈可一辱再辱！”

漢昭帝元平元年（前74），李陵在居匈奴二十餘年後病死。