Langkah pertama dalam penubuhan Malaysia bermula pada tahun 1961 apabila satu cadangan untuk membentuk sebuah persekutuan yang lebih luas merangkumi Persekutuan Malaya, Singapura, Sarawak, Sabah dan Brunei dikemukakan oleh Tunku Abdul Rahman. Cadangan ini secara amnya diterima oleh penduduk Malaya dan Singapura, tetapi menimbulkan rasa curiga di kalangan penduduk Sabah dan Sarawak.
Walau bagaimanapun, cadangan tersebut dibantah oleh Filipina yang telah membuat tuntutan hak ke atas Sabah. Cadangan ini juga menerima tentangan dari Indonesia yang melihatnya sebagai satu langkah untuk menjajah Borneo oleh Sukarno dan Parti Komunis Indonesia.
Walau bagaimanapun, tentangan yang berterusan daripada Filipina dan Indonesia telah menyebabkan Pertubuhan Bangsa-bangsa Bersatu menghantar satu misi ke Borneo pada tahun 1963, yang turut melaporkan bahawa pandangan awam rata-rata menyokong penubuhan Malaysia.
Beberapa tahun selepas penubuhan Malaysia, satu konfrontasi ketenteraan telah berlaku di antara Malaysia dan Indonesia apabila Indonesia membuat serangan ke atas Semenanjung Malaysia dan sepanjang sempadan darat Sabah dan Sarawak. Konfrontasi tersebut berakhir pada tahun 1966 dengan termeterainya satu perjanjian di Bangkok, Thailand.