مثل العديد من الأطفال الجورجيين نشأ جوزيف يوجاشفيللى الذي أطلق على نفسه لاحقًا جوزيف ستالين مع الملحمة الوطنية الجورجية "الفارس في جلد النمر" عندما كان طفلاً ، كان يوجاشفيلي يحفظ القصيدة عن ظهر قلب كما قرأ بشغف القصائد الشعبية الأخرى في ذلك الوقت ، ولا سيما قصائد رافائيل إريستافي وأكاكي تسيريتيلي - وبمجرد أن تعلم الروسية - نيكولاي نيكراسوف.
في مدرسة تيفليس الأرثوذكسية حيث التحق بها ابتداء من عام 1894 ، قرأ ستالين ترجمة أشعار جوته وشكسبير، وكان بإمكانه تلاوة شعر والت ويتمان، كما بدأ في كتابة الشعر الرومانسي باللغة الجورجية، في عام 1895 ، في سن السابعة عشر ، أثارت قصائد ستالين إعجاب الشاعر الشهير إيليا تشافشافادزه ، الذي نشر خمسة منها في مجلته، إيفريا.
يقول فى إحدى هذه القصائد "الصباح المهداة للأمير رافائيل إرستافي"، وفقا للجارديان:
لقد انفتح البرعم الوردي
الاندفاع إلى اللون البنفسجي الباهت
وأثارها نسيم خفيف
زنبق الوادي ينحني فوق العشب
بمجرد أن دخل ستالين علم السياسة الثورية توقف عن كتابة الشعر بانتظام ، وقد أخبر صديقًا أن الأمر استغرق الكثير من الوقت، وفى في عام 1907 أثناء التطهير العظيم ، قام بتحرير ترجمة روسية لملحمة الفارس في جلد النمر بواسطة مفكر جورجي أطلق سراحه من السجن لهذا الغرض، وقام بترجمة بعض المقاطع بكفاءة بنفسه.
نشر ستالين جميع أعماله دون الكشف عن هويته ولم يعترف بها علنًا، عندما قام لافرينتي بيريا سراً بإعداد من بوريس باسترناك وغيره من المترجمين المشهورين نسخة روسية من قصائد ستالين بمناسبة عيد ميلاد الحاكم السبعين في عام 1949 ، أوقف ستالين المشروع.
