Çin Halk Cumhuriyeti, kuruluşunun ilk yıllarında Sovyetler Birliği ile iyi bir ilişki içerisinde olmuşsa da bu ilişki zaman içerisinde bozulmuştu. Bunun en önemli nedeni ideolojik bir rekabet içerisine girmeleriydi. Soğuk Savaş'ın sona ermesiyle iki ülkenin ilişkileri tekrardan canlandı.
Soğuk Savaş'ın ardından NATO, "Barış İçin Ortaklık" girişimi kapsamında Orta ve Doğu Avrupa'da hızla yayılmaktaydı. Rusya, yakın bölgesinde NATO'nun yürüttüğü faaliyetlerden rahatsızdı. Çin ise ham madde ihtiyacı gibi ekonomik etkenlerin de etkisiyle uzun bir süredir sürdüğü dünya politikasına dahil olmama anlayışını terk ederek aktif bir politika izlemek istiyordu. Ayrıca Rusya ve Çin, ABD'nin tek kutuplu dünya özlemine karşı çıkmaktaydılar. 1995 yılında her iki ülke de çok-kutuplu bir düzen için çaba gösterilmesini açıkladılar.
Şanghay Beşlisi, 26 Nisan 1996'da Şanghay'da imzalanan bir anlaşma ile kuruluşunu ilan etti. Kurucu ülkeler şunlardı: Rusya, Çin, Kazakistan, Kırgızistan ve Tacikistan. Her yıl düzenli olarak üye devletlerin başkentlerinde zirveler düzenlendi.
2001 yılında Özbekistan'ın da bu yapıya girmesiyle bir hükümetler arası örgüt haline getirilerek Şanghay İşbirliği Örgütü resmen kurulmuş oldu. Örgütün sekreterliği Pekin'de, terörle mücadele merkezinin ise Taşkent'te olması kararlaştırıldı.
Rusya Devlet Başkanı Vladimir Putin, Şanghay İşbirliği Örgütü'nün 2007 yılındaki zirvesinde, "Tek kutuplu dünya kabul edilemez" demiştir.
Örgütün amacı üyeler arası politika, ekonomi, ticaret, kültür, teknoloji, eğitim vb. alanlarda etkili bir işbirliği sağlamaktır. Örgütün en üst karar alma mekanizması Devlet Başkanları Konseyi'dir. Yılda bir kez üye devletlerden birinin başkentinde toplanır. Örgütün diğer organları şunlardır: Hükümet Başkanları Konseyi, Dışişleri Bakanları Konseyi, Ulusal Koordinatörler Konseyi ve Sekretarya.
Şanghay İşbirliği Örgütü'nde İran, Beyaz Rusya, Afganistan ve Moğolistan gözlemci statüsüne sahiptir. Türkiye, Belarus, Sri Lanka, Azerbaycan, Ermenistan, Kamboçya ve Nepal ise örgütün diyalog partneridir. ABD'nin örgüte gözlemci üye olma başvurusu kabul edilmemiştir.
2016 yılında yapılan Taşkent'teki zirvede Hindistan ve Pakistan'ın örgüte üye olması kararlaştırıldı.