[(Exodus 33:12:) "And Moses said to the LORD."] What is written above on the matter (in verse 5)? "And the LORD said to Moses: Say to the Children of Israel: You are a stiff-necked people […]; now therefore take off your ornaments (na, please)" (Exodus 33:5). What is the meaning of "your ornaments"? Rabbi Shimon said: The weaponry that the Holy One, blessed be He, gave them, and the Ineffable Name was engraved upon it. Immediately, "And the Children of Israel stripped themselves of their ornaments" (Exodus 33:6). When Moses saw that they had lost the good gift, he too became angry with them.
The Stripped Ornaments and the Hidden Weapons of Sinai
Midrash Tanchuma Buber, Ki Tisa 15:1
[ויאמר משה אל ה']. מה כתיב למעלה מן הענין, ויאמר ה' אל משה אמור אל בני ישראל אתם עם קשה עורף [וגו'] ועתה הורד (נא) עדיך (שמות לג ה), מהו עדיך, אמר ר' שמעון כלי זיין שנתן להם הקב"ה, ושם המפורש חקוק עליו, מיד ויתנצלו בני ישראל את עדים (שם שם ו), כשראה משה שאבדו את המתנה טובה, אף הוא כעס עליהם.