人出身高贵，乃吴郡张氏这一豪门望族之后，其父正是宋会稽太守张畅。
早在弱冠之年，张融之名便已声震遐迩。当时，与其同郡有一道士名曰陆修静，对张融极为赏识，特将一把以白鹭羽制成的麈尾扇赠予他，并盛赞其为异人。消息传到宋孝武帝耳中，孝武帝亦听闻张融早年即获美誉，于是当即任命他担任新安王北中郎参军一职。后来，孝武帝下令兴建新安寺，一时间引得众人纷纷慷慨解囊，踊跃施舍大量钱财布帛。然而，唯独张融与众不同，仅仅捐赠了区区一百钱而已。皇帝见此情形，认为他可能家境贫寒，遂改派他去出任封溪县令。
在前往封溪赴任的路途之中，张融竟遭遇不幸，被一伙凶残的獠贼所擒获。这些獠贼凶狠异常，甚至妄图将他杀害并分而食之。但面对如此险恶处境，张融却毫无惧色，始终保持着从容不迫的神态。不仅如此，他更是当场吟咏起洛生咏来，那悠扬婉转的声调，使得众獠贼大为惊诧不已。最终，这些獠贼被张融的非凡气度所折服，竟然放过了他。
此后不久，张融参加秀才选拔考试，并在对策环节表现出色，成功中第。由此，他得以晋升为尚书殿中郎。不过，尚未就职于此位，又转而调任至仪曹郎。到了元徽初年，郢州发生了一起射手叛逃事件，一时之间引起轩然大波。在此关键时刻，张融挺身而出，明确提出对于叛逃者的家属和家长不应施以连坐之罪，同时建议对于叛逃者应处以五年刑期的惩罚。后被征召为太祖太傅掾，迁中书郎，他请求为中散大夫，未被允许。齐高帝萧道成即位之后，张融开始踏上仕途之路，一路平步青云，先后担任了黄门郎、太子中庶子以及司徒左长史等重要职务。
在文学方面，张融可谓才华横溢。当他泛舟出海，远至交州之时，灵感如泉涌，挥笔写下了一篇气势磅礴的《海赋》。此文词藻华丽，行文诡谲激昂，足可与晋朝张华那篇同样赫赫有名的《海赋》一较高下。除此之外，他还精心创作了一系列脍炙人口的作品，诸如《别诗》《白日歌》《箫史曲》和《忧且吟》等等。张融一直倡导文学不应拘泥于固定的形式和体裁，坚决反对那种一味因袭前人、寄人篱下的写作方式。
而在书法领域，张融亦有着非凡的造诣。他擅长草书，其书法作品独具一格，别有一番韵味