Иоанн был родом из Сиены (или Кастелло-ди-Серена) в Италии.

Был диаконом в Риме. Возможно, именно ему Боэций, философ VI века, посвятил три из своих пяти религиозных трактатов, написанных между 512 и 520 годами.

Иоанн был очень слаб здоровьем, когда он был избран на папский престол.

После издания византийским императором эдикта о преследовании исповедующих арианство, он был отправлен (против его воли) Теодорихом Великим послом к византийскому императору Юстину, чтобы добиться отмены или смягчения мер против еретиков. Король Теодорих пригрозил, что если Иоанн не выполнит свою миссию, то станут вероятны репрессии против не-ариан на Западе. Иоанн отправился в Константинополь со значительной свитой. Среди его сподвижников были епископ Екклесий из Равенны, епископ Евсевий из Фано и Сабин из Кампании, а также светские деятели — сенаторы Флавий Феодор, Флавий Инпортун Юниор, Агапит и патриций Агапит.

Иоанн не мог и вряд ли желал удачно выполнить порученную королем миссию. По возвращении он был заключён в тюрьму в Равенне по подозрению в заговоре с императором Юстином. В тюрьме Иоанн умер от жестокого обращения. Его тело было перевезено в Рим и захоронено в базилике Святого Петра.

Позже Иоанн I был канонизован как мученик за веру. В искусстве его обычно изображали глядящим сквозь прутья решетки или в тюрьме с диаконом и иподиаконом. Он особенно почитается в Равенне и Тоскане.

День памяти Святого Папы Иоанна I отмечается 18 мая, в годовщину дня его смерти.