무슨일인지 업그레이드 실패까지 생겼는데.... 왠지 모르지만 안되는게 참 많습니다.
이런 경우 다시 설치하면 되긴 합니다.
아마도 추측은 초기 설치 할 때 전체 사용자 선택을 해서 설치 했는데 업그레이드는 현재 유저 기준으로 해서 그런것이 아닌가 싶습니다.

old 라고 된것 삭제 삭제하고
new_ 이렇게된것 new_ 삭제하고 다시 실행하고 vscode에서
Help > Check for Updates 해주고 다시 시작하면 됩니다.
이때 작업표시줄에 고정한게 있으면 그것 클릭하지 말고(삭제하고) 새로 설치된 아이콘 클릭해서 실행 하면됩니다.