מונדט נולד ב-3 ביוני1900 בהומבולדט, דקוטה הדרומית, והיה בנם של פרדיננד ג'ון מונדט (1875–1947) ורוז (שניידר) מונדט (1874–1965). שני הוריו היו צאצאים של מהגרים מגרמניה. מונדט למד בבתי ספר ציבוריים בהומבולדט, פיר ומדיסון, וסיים את לימודיו בבית הספר התיכון מדיסון ב-1919. בתיכון, הוא הצטיין בנאומים ובוויכוחים, שהפכו לתשוקותיו לאורך כל חייו.
לאחר שקיבל תואר ראשון באומניות ממכללת קרלטון במינסוטה בשנת 1923 עם התמחות בכלכלה, הוא הפך למורה ולמנהל בית ספר בתיכון בריאנט שבבריאנט, דקוטה הדרומית. כמורה בשנה הראשונה שלו הוא לימד שיעורים בנאום, פסיכולוגיה, סוציולוגיה וממשל, אימן את קבוצות הדיון, הנאום והנאום הספונטני, והקים עיתון בית ספרי. לאחר שנה אחת, הוא קודם למפקח על בתי הספר של בריאנט, תפקיד בו החזיק עד 1927. כמפקח, הוא המשיך לאמן את קבוצות הדיון והנאום.
בשנת 1924, מונדט התחתן עם מרי אליזבת' מוזס (1900–1985), חברתו לכיתה במכללה, שגם היא לימדה בתיכון בריאנט. בשנת 1927, גם קרל וגם מרי מונדט קיבלו תואר שני באמנויות מאוניברסיטת קולומביה לאחר ארבע שנות לימודי קיץ שם. החל משנת 1928, שניהם לימדו בבית הספר הנורמלי של מזרח המדינה[2] (כיום אוניברסיטת המדינה של דקוטה), והמשיכו שם עד 1936. קרל עמד בראש מחלקת הנאום ולימד פסיכולוגיה וכלכלה, בעוד שמרי לימדה דרמה וצרפתית.[3]
ב-1936, מונדט היה המועמד הרפובליקני לבית הנבחרים מטעם מחוז הקונגרס הראשון של דקוטה הדרומית, והפסיד לדמוקרטי פרד ה. הילדברנדט. הוא זכה במושב בבחירות 1938, שנה טובה יותר לרפובליקנים, ונבחר מחדש ארבע פעמים.
ב-23 בנובמבר1969, מונדט לקה בשבץ מוחי חמור ולאחר מכן לא היה מסוגל להשתתף בישיבות הקונגרס, על אף שקיבל טיפול נרחב בדיבור ובפיזיותרפיה. אשתו, מרי, ניהלה את צוות העבודה שלו במקומו וסירבה לקריאות למנוע ממנו להמשיך בתפקידו כסנאטור. מונדט נשלל ממשימותיו בוועדות על ידי ועידת הרפובליקנים בסנאט ב-1972, אך הוא נשאר בתפקידו עד סוף כהונתו ב-3 בינואר1973. הוא לא ביקש להיבחר מחדש ב-1972, ומחליפו בסנאט היה הדמוקרט ג'יימס ג. אבורזק.
משלחת הקונגרס של דרום דקוטה בקונגרס ה-87. משמאל לימין: אליס י. ברי, ג'וזף ה. בוטום, קרל א. מונדט ובן רייפל.
בבית הנבחרים, מונדט היה המציע והתומך בהצעות לחוקי "קנייה אמריקאית", היה חבר בוועדת החוץ בין השנים 1941 ל-1948, ומילא תפקיד מפתח בעידוד ארצות הברית להצטרף לאונסק"ו בשנת 1945. הוא היה תומך חשוב של קול אמריקה, שהוקם כתוצאה מחוק סמית'-מונדט, שנחתם בחוק ב-1948. הוא היה חבר בוועדת בית הנבחרים לפעילות אנטי-אמריקנית בין השנים 1943 ל-1948. הפעילות של הוועדה בתקופה זו כללה את השימועים של אלג'ר היס וחקירות של תעשיית הקולנוע. מונדט לא הצליח בניסיונות לגרום לוועדה להמשיך לחקור את הקו קלוקס קלאן.
הוא גם הציע שינוי לסעיף 50 בחוק, שהפך את העברתו של מידע מסווג מסוים לאזרחים זרים לעבירה פלילית.