Родился в семье военного врача, служившего в колониальной администрации в Индонезии. До 12 лет жил с родителями в Батавии на острове Ява, где и решил сделаться востоковедом. Уже в детстве владел разговорным малайским, яванским и китайским языками, весьма рано проявив выдающиеся лингвистические способности. В 1922 г. вернулся в Нидерланды, поступив в гимназию в Неймегене, где дополнительно занимался санскритом с известным лингвистом К. К. Уленбеком. В 1930 г. они совместно издали «A Blackfoot-English vocabulary based on material from the Southern Piegans» (Англо-блэкфутский словарь, на основе материалов, собранных у племени Черноногих индейцев Монтаны), которых Уленбек посетил летом 1911 г. Частным образом ван Гулик изучал и литературный китайский язык.
Первые научные публикации вышли в 1928 г., ещё до поступления в университет. Статьи были посвящены китайской поэзии, но ни одного из своих поэтических переводов ван Гулик никогда не опубликовал. В 1934 г. поступил в Лейденский университет, где занимался индологией, китайским и японским языками. В 1934 г. защитил в Утрехте докторскую диссертацию, посвящённую лошадиному божеству Хаягрива (Hayagriva, the Mantrayanic Aspect of Horse-Cult in China and Japan, with the Introduction on Horse-Cult in India and Tibet).
В 1935 г. зачислен в штат Министерства иностранных дел, назначен секретарём посольства Нидерландов в Токио. В Японии определяется его кредо как учёного: ван Гулик был равнодушен к магистральным направлениям синологии, предпочитая малоизвестные аспекты материальной и духовной культуры. В Японии он освоил китайскую каллиграфию и искусство игры на цине. Этому инструменту он посвятил две монографии и ряд статей. Писал он также о тушечницах, тонким знатоком которых он являлся.
В Японии ван Гулик входил в научный совет Софийского католического университета в Токио, основал один из самых престижных японоведческих журналов Monumenta Nipponica.
В 1942 г. был выслан из Токио и эвакуировался в Китай, где служил секретарём голландской миссии в Чунцине, впервые оказавшись в Китае — стране, изучению которой посвятил всю жизнь. В Китае он подготовил к изданию сборник сочинений монаха Дун-гао. В 1944 г. ван Гулик женился на дочери крупного сановника маньчжурской династии — Шуй Шифан. У них было четверо детей, причём старший — Виллет — сделался известным японистом.
В 1945 г. был отозван в Гаагу и вернулся в Лейденский университет. В 1947 г. направлен секретарём посольства в Вашингтон (США), где был включён в комиссию по проблемам оккупации Японии. В 1948 г. ван Гулик был прикомандирован к военной миссии в Токио. В это время он увлёкся средневековым китайским судопроизводством и детективными романами.
В 1951 г. в Токио вышел его альбом «Эротические гравюры эпохи Мин». Работа была основана на редких печатных клише XVII в., приобретённых у японских антикваров, и была издана именным тиражом в 50 экз., разосланных по крупнейшим китаеведческим центрам мира. В том же году ван Гулик был направлен в Дели. Здесь он занимался индологией и переводил поэзию Калидасы, а также опубликовал монографию о тайнописи «сиддхам» (Siddham: An Essay on the History of Sanskrit Studies in China and Japan. Nagpur, 1956).
В 1953 г. назначен полномочным представителем Нидерландов на Ближнем Востоке с резиденцией в Бейруте. Ван Гулик сразу поступил в Бейрутский университет, изучал арабский язык и литературу (семья осталась в Нидерландах). В это время были также написаны книги «Китайское искусство глазами знатока» (Рим, 1958) и перевод китайского учебника юриспруденции XIII в., где рассматривались 144 дела, многие из которых стали основой для сюжетов его детективов.
В 1959 г. ван Гулик стал послом Нидерландов в Куала-Лумпуре (Малайзия). Здесь его заинтересовали гиббоны, что вылилось в опубликованную в 1967 г. книгу «Гиббон в Китае».
В 1961 г. лейденским издательством «Брилль» была выпущена в свет фундаментальная монография «Сексуальная жизнь Древнего Китая», явившаяся вершиной синологического творчества ван Гулика. На обширном материале XVII в. до н. э. — XVII в. ван Гулик рассматривал многочисленные аспекты китайской эротологии, включая социальный и гендерный статус замужних женщин, куртизанок, аспекты применения противозачаточных средств и т. д. Выпущенная в годы «сексуальной революции», монография стала основой многочисленных работ в этой области. Впрочем, самому исследователю — чиновнику высокого ранга, не хотелось связывать своё имя с «пропагандой порнографии», поэтому ряд терминов и соответствующих текстов были даны в латинском переводе, включённом в английский текст монографии.
В 1963 г. ван Гулик был отозван в Нидерланды, где служил в МИДе. В 1965 г. назначен послом в Японии и Корее. 24 сентября 1967 г. скончался в Гааге от рака лёгких.
Являлся одним из самых эрудированных синологов XX в., знатоком необычных и малоизвестных аспектов китайской культуры.
В 1949 году переведенный ван Гуликом роман «Ди Гун Ань» был опубликован в Токио. Главный герой романа — судья Ди, реальный исторический персонаж (ок. 630 — ок. 700), был известным государственным деятелем в эпоху империи Тан (VII—X вв.), хотя в романе используется множество исторических элементов из времен империи Мин (XIV—XVII вв.).
Эта работа чрезвычайно заинтересовала ван Гулика, и он решил написать собственный вариант истории о судье Ди. Первой повестью с участием судьи Ди и его помощников стала «Убийство на улице Полумесяца» (написана в 1949-1950).
В комментариях к повести он заметил, что «хотел показать современным китайским и японским писателям-детективщикам, что их собственная древняя литература содержит множество ценного материала, могущего послужить основой для таких историй».
Ван Гулик старательно соблюдал традиции китайского детективного романа в своих повестях. Например, в большинстве романов судья расследует одновременно три дела, как правило, не связанных между собой.
Собственно детективный элемент также выдержан более в духе традиционных китайских историй, хотя и приспособлен ко вкусу европейского читателя.