غلامحسین مصاحب در سال ۱۲۸۹ در تهران در خانواده‌ای اهل علم و ادب به دنیا آمد. خاندان مصاحب در نایین از دوران صفویه به این سو شناخته‌شده هستند و چند تن رجال ادب و هنر از این خاندان برخاسته‌اند، از جمله ملا مصاحب که در عصر شاه عباس شاعری بنام بود. پدربزرگ او، میرزا غلامعلی، خوشنویس، پدرش طبیب و مادرش شاعر بود.
بعد از انجام تحصیلات مقدماتی وارد دارالمعلمین شد و دورهٔ آن را به پایان رساند و سپس در دارالمعلمین عالی نام‌نویسی کرد و در رشتهٔ ریاضیات فارغ‌التحصیل شد. از آن زمان به خدمت وزارت معارف درآمد، و همچنان تحصیلات خود را در علوم قدیم و فلسفه ادامه داد، و علاوه بر ریاضیات، زبانهای عربی و فرانسوی و انگلیسی را نیز در حد عالی فرا گرفت، و با زبانهای روسی و آلمانی نیز آشنایی یافت. در سال ۱۳۰۹ «مجلهٔ ریاضیات مقدماتی و عالی» را تأسیس کرد و یازده شماره از آن را منتشر نمود. از همان سال‌ها به تألیف کتاب‌های درسی برای دبیرستان‌ها پرداخت. در سال ۱۳۱۶ ازدواج کرد، و برای ادامهٔ تحصیل به فرانسه رفت. پس از بازگشت به ایران در سال ۱۳۲۰ تدریس در دانشسرای عالی را آغاز کرد. از ابتدای سال ۱۳۲۲ روزنامهٔ برق را انتشار داد که به دلیل مخالفت‌های شدید با دولت‌های وقت و پس از چند بار توقیف از انتشار بازماند.
در سال ۱۳۲۴ برای تکمیل تحصیلات به انگلستان رفت و در سال ۱۳۲۷ به اخذ درجه دکتری در ریاضیات از دانشگاه کمبریج نایل آمد و در همین سال به عضویت انجمن ریاضی‌دانان انگلیس و انجمن فلسفهٔ کیمبریج نیز درآمد. در انگلستان شاگرد خاص برتراند راسل، ریاضیدان و فیلسوف نامدار انگلیسی بود.
پس از بازگشت مشاغل چندی را در وزارت فرهنگ عهده‌دار شد. در سال ۱۳۲۸ به سمت ریاست ادارهٔ آموزش متوسطه و سپس به سمت ریاست ادارهٔ کل تعلیمات عالیه منصوب شد، و در سال ۱۳۳۰ سمت مدیر کل وزارت فرهنگ، و در سال ۱۳۳۱ مقام معاونت فنی وزارت فرهنگ را یافت.
دکتر غلامحسین مصاحب در سال ۱۳۳۵ عهده‌دار طرح‌ریزی و سرپرستی دائرةالمعارف فارسی شد و تا ۱۳۵۰ که آن مسئولیت را به عهده داشت، بر ترجمه و تألیف کلیهٔ مقالات دائرةالمعارف نظارت داشت. دائرةالمعارف فارسی نخستین دائرةالمعارف عمومی در زبان فارسی است، که بر اساس شیوه‌های نوین دانشنامه‌نویسی تهیه شده است و مشهورترین فعالیت و دستاورد غلامحسین مصاحب به شمار می‌آید.
در سال ۱۳۴۰ به تدریس در بخش ریاضی دانشسرای عالی پرداخت و سال ۱۳۴۲ درجهٔ استادی یافت. دکتر غلامحسین مصاحب در مهر ۱۳۴۵ مؤسسهٔ ریاضیات را در دانشسرای عالی (بعداً دانشگاه تربیت معلم) با مجوز شورای مرکزی دانشگاه‌ها تأسیس کرد. هدف این مؤسسه تربیت مدرسان ریاضی برای دانشگاه‌های کشور بود، و با کوشش‌های مداوم دکتر مصاحب ۷۰ نفر مدرس ریاضی دانشگاهی در آن مؤسسه تربیت شدند، و نیز کتابخانهٔ تخصصی مؤسسهٔ ریاضیات در کشور بی‌نظیر بود. مؤسسهً ریاضیات از سال ۱۳۶۳ با ضوابط جدید به پذیرش دانشجو برای دوره‌های عالی ریاضی پرداخت، و درسال ۱۳۷۶ مؤسسهٔ ریاضیات به مؤسسه تحقیقات ریاضی دکتر غلامحسین مصاحب تغییر نام یافت. دکتر غلامحسین مصاحب در ۲۱ مهر ۱۳۵۸ در تهران درگذشت.