黄老爷子之所以能一抛千金，又能收的蒋介石为徒弟。全靠当年，黄金荣自幼不爱读书，擅长与地痞流氓交往。为了加强租界内的治安，老外决定招募120名华人巡捕。黄金荣曾当过裱画匠，后又在上海县衙门里做过一阵子捕快，这时黄金荣听说进了巡捕房当巡捕能吃香喝辣、前途无量，他不甘寂寞，便决定去碰碰运气。这一年，他才22岁。他来到设在公馆马路法租界总巡捕房报名应试。也许是他那强壮的身体占了便宜，他居然给录用了。进了巡捕房后，黄金荣就跟着法国巡捕的屁股后面，挨家挨户去征收“地皮捐”、“房屋捐”，还要到越界筑路区为新建的房屋订租界的门牌号码。在这些工作中，他表现得格外卖力，还参与镇压那些不愿意动迁的农户、坟主和抗议加捐的小东主活动。
由此，他就被警务总监看中，一下就由华捕提升为便衣，也就是包打听。提拔后的黄金荣被派差到十六铺一带活动。这时候的他，一身便装，成天地泡在茶馆店里，喝喝茶、吹吹牛，从中收集情报，联络眼线，也算是一项工作。莫看黄金荣人长得五大三粗，但脑子蛮活络。他用“黑吃黑”、“一码克一码”的手法，网罗了一批“三光码子”，即那些惯偷、惯盗、惯骗分子给他提供各类情报，破了一些案子。另外，他还制造假象，用贼喊捉贼的办法提高自己的威信。可以说那个时候的他黑白两道通吃，三教九流之列也无外乎是他的眼线，那个时候可能谁家丢了头猪，还是谁家死了只鸡，明天立马黄金荣就知道了。
有一天，法国巡捕房的街对面有一家咸货行的一块金字招牌突然不翼而飞。老板急得六神无主。这时，有人就对那个老板说对面的黄金荣破案子“交关灵光”。老板进了巡捕房就直接点名找黄金荣破案。谁知，不等黄金荣跑出巡捕房，一班小瘪三就敲锣打鼓地将那块招牌给送了回来。由此，黄金荣名声大噪。其实，这全是黄金荣在幕后一手策划、导演出的一出丑局。
又有一次，法国总领事的书记官凡尔蒂偕同夫人去太湖游览。没想到竟遭到了那里土匪的绑架。法租界闻讯后，就派黄金荣前往营救。黄金荣找来了手下的小喽啰找到了太湖土匪的头领“太保阿四”、“猪猡阿美”，便轻而易举地将这一对“法国肉票”保释了出来。
还有一次，福建省督理周荫人的参谋长杨知候带了六箱古玩、字画到上海来。不料，一出码头就被人盗走。为此，松沪护军使何丰林特请黄金荣协助追查。结果，不到半天黄金荣就将原物如数追回。
在当包打听的生涯里，最令黄金荣得意的还是侦破法国天主教神父被绑架案。为此，法国东正全权大臣还授予黄金荣一枚头等金质宝星。法国巡捕房更是提升他为唯一的一个华人探督察长，另派八名安南巡捕给他当保镖。从此以后，黄金荣更是飞扬跋扈、胆大妄为，成为地方一霸。