محمد قاضی در 12 مرداد 1292 در شهر مهاباد استان آذربایجان غربی دیده به جهان گشود. پدر او میرزاعبدالخالق امام جمعه مهاباد بود. محمد قاضی آموختن زبان فرانسه را در مهاباد آغاز کرد. او در سال 1308 با کمک عموی خود میرزاجواد قاضی که از آلمان دیپلم حقوق گرفته بود و در وزارت دادگستری کار می‌کرد، به تهران آمد و در سال 1315 از دارالفنون در رشته ادبی دیپلم گرفت. در سال 1318 دورهٔ دانشکده حقوق دانشگاه تهران را در رشتهٔ قضایی به پایان برد. او در طول این دوران همیشه جزو بهترین شاگردان زبان فرانسه بود
شهرت محمد قاضی به عنوان مترجم از ترجمه کتاب «جزیره پنگوئن‌ها» نوشته آناتول فرانس آغاز شد. استقبالی که خوانندگان از این کتاب به عمل آوردند موجب شد تا آقای نجف دریابندری از مترجمان معروف مقاله‌ای در تقریظ از این کتاب در روزنامه اطلاعات تحت عنوان «مترجمی که آناتول فرانس را نجات داد» بنویسند. با انتشار این کتاب در اوایل دهه 1330 محمد قاضی به شهرت رسید و بعد از آن مرتب به کار ترجمه ادامه داد
یکی از مهمترین ترجمه‌های محمد قاضی ترجمه «دن کیشوت» است که از سال 1333 تا 1336 طول کشید. او در این ترجمه چیره‌دستی و پشتکار بی‌نظیری نشان داد. متن اصلی دارای ضرب‌المثل‌ها و اشعار متعددی است که او برای پیدا کردن معانی آنها بارها به کلیسای کاتولیک‌ها در خیابان فرانسه رفت و با مراجعه به کشیشان معانی آن اشعار را پیدا نمود. همچنین برای ترجمه ضرب‌المثل‌ها سعی کرد معادل آنها را در زبان فارسی پیدا کند و اصل آنها را در پای صفحه قید نماید. دکتر زرّین‌کوب در مقاله‌ای در مجله سخن در باب ترجمه دن کیشوت نوشت که «مترجم زبان مناسب با ترجمه این اثر را پیدا کرده است». جمال زاده نیز در مجله راهنمای کتاب نوشته که «اگر سروانتس فارسی می‌دانست و می‌خواست دن کیشوت را به فارسی بنویسد از این بهتر نمی‌شد
محمد قاضی در 1354 به بیماری سرطان حنجره دچار شد و هنگامی که برای معالجه به آلمان رفت، بیماری تارهای صوتی و نای او را گرفته بود و پس از جراحی، به‌علت از دست دادن تارهای صوتی، دیگر نمی‌توانست سخن بگوید و از دستگاهی استفاده می‌کرد که صدایی ویژه تولید می‌کرد. با این حال کار ترجمه را ادامه داد، و ترجمه‌های جدیدی از او تا آخرین سال حیاتش انتشار می‌یافت
محمد قاضی همیشه می‌گفت: «مرگ من آن روز خواهد بود که نتوانم ترجمه کنم و امیدوارم که آن روز به این زودی‌ها فرا نرسد.» و به راستی چنین بود. بعد از پایان ترجمه «راز اقلیم آسمانی» اثر میکاوالتاری، کتاب «نوحه درون» را به همراه احمد قاضی ترجمه کرد و 48 ساعت بعد از پاکنویس آن ترجمه در بامداد بیست و چهارم دی 1376 روی در نقاب خاک کشید