১৯৭৬ সালে চট্টগ্রাম বিশ্ববিদ্যালয়ের কাছাকাছি জোবরা গ্রামের দরিদ্র পরিবারের সঙ্গে সাক্ষাৎ করার সময় ইউনুস আবিষ্কার করেন যে খুব ছোট ঋণ দরিদ্র মানুষের জন্য অত্যন্ত গুরুত্বপূর্ণ পার্থক্য তৈরি করতে পারে। গ্রামের মহিলারা যারা বাঁশের আসবাব তৈরি করতেন, তাদের বাঁশ কিনতে উচ্চ সুদে ঋণ নিতে হতো এবং তাদের লাভ ঋণদাতাদেরকে দিতে হতো। প্রথাগত ব্যাংকগুলো দরিদ্রদেরকে উচ্চ ঋণখেলাপির ঝুঁকির কারণে যুক্তিসঙ্গত সুদে ছোট ঋণ দিতে চায়নি।[২৬] কিন্তু ইউনুস বিশ্বাস করতেন যে, সুযোগ পেলে দরিদ্ররা উচ্চ সুদ পরিশোধ করতে হবে না, তাদের নিজেদের পরিশ্রমের লাভ রাখতে পারবে, সেজন্য ক্ষুদ্রঋণ একটি কার্যকর ব্যবসায়িক মডেল হতে পারে।[২৭] ইউনুস তার নিজের টাকা থেকে ২৭ মার্কিন ডলার ঋণ দেন গ্রামের ৪২ জন মহিলাকে, যারা প্রতি ঋণে ০.৫০ টাকা (০.০২ মার্কিন ডলার) লাভ করেন। যেজন্য ইউনুসকে ক্ষুদ্রঋণের ধারণার জন্য কৃতিত্ব দেওয়া হয়।

জোবরা গ্রামের দরিদ্রদের ঋণ দেয়ার উদ্দেশ্যে ১৯৭৬ সালের ডিসেম্বরে ইউনুস সরকারি জনতা ব্যাংক থেকে একটি ঋণ পান। প্রতিষ্ঠানটি তার প্রকল্পের জন্য অন্যান্য ব্যাংকের কাছ থেকে ঋণ নিয়ে কাজ চালিয়ে যাচ্ছিল। ১৯৮২ সাল নাগাদ এর সদস্য ছিল ২৮,০০০ জন। ১৯৮৩ সালের ১ অক্টোবর, এই পাইলট প্রকল্পটি দরিদ্র বাংলাদেশীদের জন্য একটি পূর্ণাঙ্গ ব্যাংক হিসাবে কাজ শুরু করে এবং এর নামকরণ করা হয় গ্রামীণ ব্যাংক ("ভিলেজ ব্যাংক")। জুলাই ২০০৭ নাগাদ গ্রামীণ ব্যাংক ৭.৪ মিলিয়ন ঋণগ্রহীতাদের জন্য ৬.৩৮ বিলিয়ন মার্কিন ডলার ইস্যু করেছিল।[২৮] "সলিডারিটি গ্রুপ" নামক একটি সিস্টেম ব্যবহার করে ব্যাংকটি ঋণ পরিশোধ নিশ্চিত করে। এই ক্ষুদ্র অনানুষ্ঠানিক গোষ্ঠীগুলি একসঙ্গে ঋণের জন্য আবেদন করে এবং এর সদস্যরা ঋণ পরিশোধের সহ-জামিনদার হিসেবে কাজ করে এবং অর্থনৈতিক স্ব-উন্নয়নে একে অপরের প্রচেষ্টাকে সমর্থন করে।[২৯]

১৯৭৪ সালে দেশে এক দুর্ভিক্ষ দেখা দেয়। মানুষ অনাহারে মারা যাচ্ছিল এবং খাওয়ার জন্য পর্যাপ্ত খাবার পাচ্ছিল না। এটা ছিল চারপাশে দেখা এক ভয়াবহ পরিস্থিতি। অর্থনীতির মনোমুগ্ধকর তত্ত্ব পড়াই, এখানে সেটির অভিজ্ঞতা ছিল ভয়াবহ, সেই তত্ত্বগুলো সেই মুহূর্তে ক্ষুধার্ত মানুষের কোনো কাজে না। তাই আমি দেখতে চেয়েছিলাম যে একজন ব্যক্তি, একজন মানব হিসেবে, আমি কিছু মানুষের জন্য কিছু কাজে আসতে পারি কিনা।

–মুহাম্মদ ইউনূস গ্রামীণ ব্যাংক গঠনের কারণ সম্পর্কে বলেছিলেন[৩০]

১৯৮০ সালের শেষের দিকে, গ্রামীণ ব্যাংক অব্যবহৃত মাছ ধরার পুকুর সংস্কার এবং গভীর নলকূপ স্থাপনের মতো বিষয় নিয়ে কাজ করতে শুরু করে। ১৯৮৯ সালে এই বৈচিত্র্যপূর্ণ প্রকল্পগুলো পৃথক সংস্থায় বৃদ্ধি পেতে শুরু করে। মৎস্য প্রকল্প গ্রামীণ মৎস্য ("গ্রামীণ মৎস্য ফাউন্ডেশন") এবং সেচ প্রকল্পটি গ্রামীণ কৃষি ("গ্রামীণ কৃষি ফাউন্ডেশন") হয়ে ওঠে।[৩১] সময়ের সাথে সাথে গ্রামীণ ব্যাংকের উদ্যোগটি গ্রামীণ ট্রাস্ট এবং গ্রামীণ তহবিলের মতো বড় প্রকল্পগুলি সহ লাভজনক এবং অলাভজনক উদ্যোগের একটি বহুমুখী গোষ্ঠীতে পরিণত হয়, যা গ্রামীণ সফটওয়্যার লিমিটেড, গ্রামীণ সাইবারনেট লিমিটেড, এবং গ্রামীণ নিটওয়্যার লিমিটেডের মতো ইকুইটি প্রকল্পগুলি চালায়,[৩২] পাশাপাশি গ্রামীণ টেলিকম, যার একটি অংশীদারিত্ব রয়েছে গ্রামীণফোনে (জিপি), বাংলাদেশের বৃহত্তম বেসরকারী ফোন কোম্পানি।[৩৩] মার্চ ১৯৯৭ থেকে ২০০৭ সাল পর্যন্ত জিপি'র ভিলেজ ফোন (পল্লী ফোন) প্রকল্পটি ৫০,০০০-এরও বেশি গ্রামে ২৬০,০০০ গ্রামীণ দরিদ্রদের কাছে সেল-ফোনের মালিকানা নিয়ে এসেছিল।[৩৪]

গ্রামীণের সাথে তার কাজের জন্য, ইউনূসকে ২০০১ সালে পাবলিক গ্লোবাল একাডেমী সদস্যের জন্য একজন অশোক: উদ্ভাবক হিসাবে নাম দেওয়া হয়েছিল।[৩৫] গ্রামীণ সোশ্যাল বিজনেস মডেল বইটিতে[৩৬], এর লেখক রাশিদুল বারী বলেছেন যে সারা বিশ্বে গ্রামীণ সামাজিক ব্যবসায়িক মডেল (জিএসবিএম) তত্ত্ব থেকে একটি অনুপ্রেরণামূলক অনুশীলনে পরিণত হয়েছে, যা নেতৃস্থানীয় বিশ্ববিদ্যালয় (যেমন, গ্লাসগো), উদ্যোক্তাদের (যেমন, ফ্রাঙ্ক রিবউড) এবং কর্পোরেশনগুলি (যেমন, ড্যানোন) দ্বারা গৃহীত হয়েছে। গ্রামীণ ব্যাংকের মাধ্যমে, রশিদুল বারী দাবি করেছেন যে ইউনূস দেখিয়েছেন কিভাবে গ্রামীণ সামাজিক ব্যবসায়িক মডেল দরিদ্র নারীদের ক্ষমতায়ন করতে এবং তাদের দারিদ্র্য দূর করতে উদ্যোক্তা মনোভাবকে কাজে লাগাতে পারে। ইউনূসের ধারণাগুলি থেকে বারী একটি উপসংহার টানার পরামর্শ দিয়েছিলেন যে দরিদ্ররা একটি "বনসাই গাছ" এর মতো, এবং তারা বড় কিছু করতে পারে যদি তারা সামাজিক ব্যবসায় সুযোগ পায় যা তাদের স্বাবলম্বী হওয়ার ক্ষমতায়নের সম্ভাবনাময় রাখে।