云计算系统中，用户数据存储在云端，如何保证用户的数据不被非法访问和泄露是系统必须要解决的两个重要问题，即数据的安全和隐私问题，同时云计算系统本身的可扩展性、可用性、可靠性、可管理性等都是要重点解决的问题，在服务的层次上，云计算系统必须要解决服务的描述及转换问题，如何将用户的业务理念需求转换成对基础设施的需求、如何确定高层的服务需求和度量到基础设施的需求和度量之间的映射、如何保证多级别的QoS，这些都是云计算系统要解决的问题。
在云计算系统的管理方面，云系统之间的互操作是必须要考虑的一个问题，当一个云系统需要使用另外一个云系统的计算资源时，要能够提供跨云的管理策略，从而使得云系统之间能够自动交互，同时为了保证SLA系统必须能够进行SLA的监测，当有服务失败时，自动地进行资源的重新分配，在基础设施层次上，云计算系统要能够进行服务的动态迁移，目前的虚拟机只支持共享存储的迁移，如何将虚拟机迁移到没有共享存储的其他物理主机上也是云计算系统面临的挑战之一。
云计算的最终目的
云计算的最终目标是将计算、服务和应用作为一种公共设施提供给公众，使人们能够像使用水、电、煤气和电话那样使用计算机资源，云计算模式即为电厂集中供电模式，在云计算模式下，用户的计算机会变的十分简单，或许不大的内存、不需要硬盘和各种应用软件，就可以满足我们的需求。
因为用户的计算机除了通过浏览器给“云”发送指令和接受数据外基本上什么都不用做便可以使用云服务提供商的计算资源、存储空间和各种应用软件，这就像连接“显示器”和“主机”的电线无限长，从而可以把显示器放在使用者的面前，而主机放在远到甚至计算机使用者本人也不知道的地方，云计算把连接“显示器”和“主机”的电线变成了网络，把“主机”变成云服务提供商的服务器集群，在云计算环境下，用户的使用观念也会发生彻底的变化：从“购买产品”到“购买服务”转变，因为他们直接面对的将不再是复杂的硬件和软件，而是最终的服务。
