周惠王二十二年(公元前655年),晉獻公派大夫荀息到虞國來,送上厚禮,要求借道攻打虢國。虞公貪得重賄,滿口答應。宮之奇急忙諫阻說:“虞、虢貼鄰,訂有盟約,就像嘴唇和牙齒的關係。俗語說:'唇亡齒寒'。虢國被滅,虞國勢將不保。主公千萬不能應許!'虞公不以為然,他說寧可失一小國,不願得罪大國。宮之奇還想當廷力爭,百里奚暗暗拉他的袖子,又使個眼色,要他出去說話。
宮之奇不再爭辯了,就跟百里奚跑出去,問道:“這件事關係到國家的存亡,你不幫我進諫,為什麼反而阻攔我?”百里奚笑笑說:“跟這種糊塗人講道理,還不是把珍珠丟在路上。”宮之奇聽了,不覺連連點頭。晉獻公派大將里克帶領大軍,假道虞國,滅掉虢國。回師的時候,趁便把虞國也滅了。虞公和百里奚都做了俘虜。虞公後悔萬分,對百里奚說:“當初你為什麼不提醒我一下呢?”百里奚說:“宮之奇的話你都不聽,會聽我的麼?”晉獻公聽說百里奚的賢能,想起用他。百里奚回絕說:“我沒有聽蹇叔的話,已經不智;事到如今,再也不能讓人罵我不忠了。我情願陪虞公做俘虜,不願投降晉國。”就在那一年,秦穆公派公子縶到晉國求婚。晉獻公想結好秦國,答應把自己的長女伯姬嫁給秦穆公做夫人。晉獻公備辦了豐盛的妝奩,又命多選奴僕,作為陪嫁。有人說:“百里奚拒絕降順,給他官做也不要,就叫他做個陪嫁的奴僕吧。”獻公同意,命百里奚跟著嫁妝一同到秦國去。百里奚一路感嘆,想自己空有才學,遇不到英明的國君,臨老竟成了送嫁的奴僕,真正太恥辱了!他越想越恨,行到半路,趁人不防,一溜煙逃出了行列。 他想逃到宋國,怕被抓回去,決意逃往楚國。走到宛城地方,當地人正在圍獵,見他東躲西閃,疑心是奸細把他捆綁起來。百里奚申辯道:“我是虞國人,國破家亡,逃難到此怎麼會作奸細呢。”眾人見他鬚眉全白,人還老實。問他有什麼本領?他說會養牛。眾人就鬆了綁,叫他在村里養牛。他養牛倒真有點本領。幾月之後,他飼養的一群牛又壯又健,還生下好些小牛。村上人十分看重他,輾轉相傳,連楚成王也知道國里出了個善於養牛的老奚。楚成王召見他,問養牛的訣巧。百里奚回答說:“按時餵食,不使過勞,要摸熟牛的脾氣。”楚王聽了,非常滿意,說:“這真是經驗之談,養牛如此,牧馬何嘗不是如此。楚王封百里奚作圉人(官名,專管牧馬),在東海地方管理馬群。