右归丸和金匮肾气丸首先在成分上有所不同，右归丸由熟地黄、附子（炮附片）、肉桂、山药、山茱萸（酒炙）、菟丝子、鹿角胶、枸杞子、当归、杜仲（盐炒）组成。金匮肾气丸由地黄、山药、山茱萸（酒炙）、茯苓、牡丹皮、泽泻、桂枝、附子（炙）、牛膝（去头）、车前子（盐炙）组成。
其次，两药的功效和作用存在差异。右归丸具有温补肾阳，填精止遗的功效。金匮肾气丸具有温补肾阳，化气行水的功效。两药都可以温补肾阳，用于腰膝酸软、怕冷、四肢发凉、夜尿频多等，但右归丸补肾阳作用强于金匮肾气丸。除了上述的相同作用外，右归丸可以填精止遗，还可用于肾阳不足导致的阳痿、遗精等，金匮肾气丸可以化气行水，还能用于治疗肾阳不足引起的水液代谢异常，如水肿、小便不利等。两药均为处方药，需要在医师指导下使用，不能自己购买使用。