约翰在1933年9月22日动手抢劫了俄亥俄州布拉夫顿的一家银行，但是这次抢劫行动并不算成功，当地警方在很短的时间内就追踪到他的行迹，并在俄亥俄州利马郡将约翰抓捕入狱。入狱之后，警方在约翰身上搜到一份越狱计划（这份计划实际上是约翰负责协助皮尔波特、卡拉克以及其他六名同监狱的罪犯越狱，他们准备利用朋友偷偷运进监狱内部的来复枪来实施越狱），但是约翰拒绝交代该计划的内容。
1933年10月12日，约翰被捕后的第四天，有三名越狱者来到了利马郡，他们伪装成来自印第安纳州的警官，声称此次前来利马郡是为了将约翰押解回原籍关押。在交接之前，利马郡的狱警要求他们出示相关证件，这三名谎称警官的越狱者随即暴起发难，将狱警击昏在地，将关在监狱中的约翰救出并一起潜逃回印第安纳州，与其他几名越狱者会合。在警方的档案中，这几名越狱者（约翰、皮尔波特、卡拉克、查尔斯·马克里、沃尔特·戴崔茨、哈利·克普兰）就是“最初的迪林杰帮”。
约翰利用4年的监狱生活精心研究了抢劫技巧，在与这些“同伙”相聚之后，他就开始将这些想法一一付诸行动，约翰在之后的每一次抢劫行动中都有着十足的信心，警察追得越紧，他们抢劫的频率就越高。约翰在实施抢劫之前，通常会乔装成生产银行警报系统的公司的销售代表，以推销安保设施的名义来了解银行内部的安保结构，他利用这种方法成功抢劫了多家印第安纳州和俄亥俄州的银行。约翰的团伙还曾经乔装成一个拍摄抢劫银行桥段的剧组，通过这样的伪装来对自己看中的目标实施抢劫，结果他们真的在有群众围观的情况下顺利实施了一次抢劫。
根据警方估算，约翰所实施的多起银行抢劫案所涉案的金额高达30万美元，为了方便抢劫银行，约翰还曾多次抢劫警方武器库来获得武器。尽管约翰的这些行为还不足以上升到触犯美国联邦法律的地步，但联邦调查局依然被请来参与调查此案。这次调查行动也是联邦调查局首次在职权范围之外侦办案件，他们使用了当时最先进的指纹识别技术，迅速确认了犯案嫌疑人的身份并在全国悬赏通缉。
FBI的加入使得约翰等人不得不更加小心地应对，他们停止了一切抢劫行动，所有人都隐藏身份偷偷住进了国会饭店，以此来躲避FBI的搜查，但一次意外事故暴露了他们的行踪。国会饭店因为一次意外而失火，约翰等人因为逃跑得过于匆忙而没能携带自己的行李（赃款），在逃出酒店之后，查尔斯·马克里付给消防员12美元，请求消防员帮助他们取回行李，这一举动也让消防员有机会看清楚约翰团伙内部其他几位成员的相貌。随后，这名消防员认出了这些人，他向警方举报，警方迅速展开行动，抓捕了团伙中的5人，这5人中就有约翰，并从这些人身上搜出了3挺冲锋枪、6挺机关枪和25000美元的现金。
被捕的5人被警方押往印第安纳州接受审判，暂时收押进克朗波因特监狱中。这一次警方为了防止约翰逃脱，增派了大量人手对他严加看管，但约翰已经不是当初那个初出茅庐的毛头小子了。他悄悄地用木头雕刻出一支木质手枪，并在木枪外边涂上黑色的鞋油，将这支木枪伪装成真枪，并在一名狱警大意的情况下使用这把“枪”挟持该狱警作为人质，以此胁迫其他警察，成功摆脱了警方的追踪。接下来，约翰开始了跨州逃亡，对此，联邦调查局也正式展开了全国范围的大搜捕行动。
约翰悄悄潜入芝加哥，他和新交的女朋友伊芙琳·弗莱切特一同生活，不久他们决定前往明尼苏达州的圣保罗和其他团伙成员碰头。但是他们引起了所租住公寓房东的怀疑，并在1934年3月30日被房东向FBI举报。经过一段时间的监听，FBI确定约翰就居住在该公寓中。在警方进行抓捕之前，一名试图进入公寓的团伙成员发现了状况，他向警方开枪，随后整个团伙一起向警方开火，并在警方支援到达之前从公寓的后门逃脱。在逃跑的过程中，约翰因中枪负伤而急需医治，于是他就悄悄躲藏在他女朋友父亲的家中接受医治。不久，伊芙琳在回芝加哥看望朋友的时候被警方抓捕，但是她拒绝交代约翰的下落。
约翰在伤势痊愈之后马上展开了报复性行动，他们在印第安纳州抢劫了一个警察局，然后在联邦调查局特工赶来之前潜逃到密歇根州。4月，约翰和他的团伙躲藏在威斯康星州一家名叫小波西米亚的旅社，他们向店主艾莫尔·瓦纳卡保证不会给这家旅社招惹麻烦，并且他们还对店主一家实施了监视和威胁。一天，店主的老婆和她的哥哥成功躲开了团伙成员中负责盯梢的“娃娃脸”尼尔森，并向芝加哥的检察机关送了一封检举信，检察官办公室迅速联系了联邦调查局，FBI连夜展开紧急调动。
数日后，FBI派遣一支由休·克雷格和梅尔文·帕维斯所带领的队伍，趁着即将退去的夜色悄悄靠近了小波西米亚旅社，这时旅社门前的狗大声叫了起来，但因为这两只狗平日里也经常叫，所以并没有引起约翰等人的注意，他们甚至都没有派人前去查看。直到FBI错误地击倒了一名早起的本地居民和两名司机以后，犯罪团伙才意识到联邦调查局已经悄悄潜入，他们马上对FBI发动攻击，短暂的交火之后，“娃娃脸”尼尔森将探员卡特·鲍姆射杀，犯罪团伙全部成功逃离。
1934年4月，约翰仿佛人间蒸发一样消失了，FBI没有任何线索可以追查到他。实际上约翰对自己做了整容手术，他修直了鼻梁，剪细了眉毛，将棕色的头发染成黑色，并蓄起了胡须，他还使用酸性物质腐蚀了自己的指尖，以此来消除指纹。约翰对自己的易容术很有自信，同年夏天，他就在全国通缉的情况下公然在芝加哥北区定居，不仅找到了一份工作，还包养了一名叫波利·汉米尔的女招待。虽然波利并不清楚约翰的真实身份，但是她的房东安娜·萨奇却察觉了约翰的真实身份。安娜在美国经营一家妓院，她正面临着被美国驱逐出境的难题，为了能够获得在美国的永久居住权，安娜决定向警方举报约翰。
1934年7月21日，安娜联系了警方，她告诉FBI，约翰正和一名妓女住在一起，他们还会在第二天去看一部名叫《曼哈顿闹剧》的电影。安娜还同意在看电影的当天穿上醒目的红裙子，以便于警方能够在人群中认出她。FBI迅速展开行动，联邦调查局局长约翰·埃德加·胡佛专门授权组成了抓捕约翰的特别任务小组，指挥部就设在芝加哥，并派出16名精锐的联邦探员在林肯北大道的拜尔格拉芙影院周围设伏。
根据FBI内部档案记载，这一天出奇的燥热，当天气温超过37.8℃，晚上8时30分，探员们发现约翰和波利以及安娜一同走进电影院，约翰穿着白色上衣，打着黑色领带，下面穿着灰色的法兰绒裤子，头戴白色草帽。两小时之后，他们3人从前门走出，但是当警方准备实施抓捕的时候，约翰突然惊觉，他迅速地拔出一把口径为38毫米的手枪并跑向一条小巷，当时一共有3名探员开枪，共打出5发子弹，约翰身中3枪，两枪击中胸部，一枪从脖颈后射入，从右眼睛射出。当日22时50分，FBI正式宣布约翰·赫伯特·迪林杰死亡。联邦调查局称约翰死前没有遗言，并将其尸体在伊利诺伊州的库克郡对公众开放，后葬于皇冠山墓地。