招标手机APP测试总结报告
|
作 者： |
日 期： |
2016-03-10 |
|
|
文档编号： |
002 |
版 本： |
Ver 1.0 |
目 录
1.测试概述 1
1.1. 编写目的 1
1.2. 测试范围 1
2. 测试计划执行情况 1
2.1. 测试类型 1
2.2. 测试环境与配置 2
2.3. 测试人员 2
2.4. 测试问题总结 3
3. 测试总结 3
3.1.测试用例执行结果 3
3.2. 安全测试 4
3.2.1. 软件权限 5
3.2.2. 安装与卸载安全性 5
3.2.2. 数据安全性 6
3.2.3. 通讯安全性 7
3.2.4. 人机接口安全性 7
3.3. 安装、卸载测试 8
3.3.1. 安装 8
3.3.2. 卸载 8
3.4. UI测试 9
3.4.1. 导航测试 9
3.4.2. 图形测试 9
3.4.3. 内容测试 9
3.5. 功能测试 10
3.5.1. 运行 10
3.5.2. 注册 10
3.5.3. 登录 10
3.5.4. 注销 11
3.5.5. 应用的前后台切换 11
3.5.6. 免登入 11
3.5.7. 数据更新 12
3.5.8. 离线浏览 12
3.5.9. APP更新 12
3.5.10. 时间测试 13
3.5.11. 性能测试 13
3.5.12. 交叉性事件测试 13
3.6. 兼容测试 14
3.7. 用户体验测试 14
4. 测试结果 15
1.测试概述
1.1. 编写目的
本测试报告为招标手机APP的测试报告，目的在于总结测试阶段的测试情况以及分析测试结果，描述系统是否符合用户需求，是否已达到用户预期的功能目标，并对测试质量进行分析。
测试报告参考文档提供给用户、测试人员、开发人员、项目管理者、其他管理人员和需要阅读本报告的高层经理阅读。
1.2. 测试范围
测试主要根据用户需求说明书和软件需求规格说明书以及相应的文档进行系统测试，包括功能测试、性能测试、安全性和访问控制测试、用户界面测试以及兼容性测试等，而单元测试和集成测试由开发人员来执行。
主要功能包括：用户登录、我的项目、推荐项目订阅、行业资讯、我的收藏、意见反馈、我的CA锁。
2. 测试计划执行情况
2.1. 测试类型
|
测试类型 |
测试内容 |
测试目的 |
所用的测试工具和方法 |
|
功能测试 |
用户登录、我的项目、推荐项目订阅、行业资讯、我的收藏、意见反馈、我的CA锁 |
核实所有功能均已正常实现，即可按用户的需求使用软件： 1、 业务流程检验：各个业务流程能够满足用户需求，用户使用不会产生疑问； 2、 数据准确：推送的信息与交易平台生产信息一致，不会出现消息错误或漏发、重复发送。 |
采用黑盒测试，使用边界值测试、等价类划分等测试方法，进行手工测试 |
|
用户界面测试 |
1、 页面结构：包括菜单、背景、颜色、字体、按钮、Title、提示信息的一致性等 2、 友好性、易用性、合理性、一致性、正确性 |
核实软件风格符合可接受标准，能够保证用户界面友好性、易操作性，符合用户操作习惯 |
手工测试 |
|
兼容性测试 |
1、 用不同型号的安卓手机：华为、小米、三星、OPPO、联想等，屏幕尺寸：3.5英寸～5.5英寸，操作系统：android4.0及以上 2、 不同版本的IOS手机：ios9.0及以上 |
核实软件在不同的系统中运行稳定 |
黑盒测试、 手工测试 |
|
安全性和访问控制测试 |
1、 注册、登录、退出登录 2、 权限限制 3、 通过修改URL非法访问 4、 登录超时限制 |
1、 应用程序级别的安全性：核实用户只能操作其所拥有权限能操作的功能 2、 系统级别的安全性：核实只能具备系统访问权限的用户才能访问系统 |
黑盒测试、 手工测试 |
|
性能测试 |
1、 注册、登录响应速度 2、 各功能模块切换响应速度 |
核实程序在多数据推送、手机多程序运行的情况下软件性能的稳定性，不造成程序崩溃或相关的异常现象 |
黑盒测试、 手工测试 |
2.2. 测试环境与配置
|
资源名称/类型 |
配 置 |
|
测试移动端 |
主频2.2GHz，硬盘500G，内存4GB |
|
应用服务器 |
Tomcat7.0服务器 |
|
数据库管理系统 |
mysql,sqllite |
|
应用软件 |
eclipse8、android、svn客户端 |
2.3. 测试人员
|
职务 |
姓名 |
|
电话 |
|
开发工程师 |
|||
|
测试人员1 |
|||
|
测试人员2 |
2.4. 测试问题总结
在app开始测试及投入使用的过程中，一直存在或多或少的影响用户使用体验的问题存在，至今仍有部分问题没有彻底解决。
3. 测试总结
3.1.测试用例执行结果
|
测试用例标识符 |
测试用例名称 |
状态 |
测试结果 |
备注 |
|
功能测试 |
||||
|
Testcase001 |
用户手机在线注册 |
已执行 |
测试通过 |
用户登录注册 |
|
Testcase002 |
注册协议查看 |
已执行 |
测试通过 |
|
|
Testcase003 |
注册后订阅项目功能 |
已执行 |
测试通过 |
|
|
Testcase004 |
手机注册帐号登录 |
已执行 |
测试通过 |
|
|
Testcase005 |
智慧交易云系统注册帐号登录 |
已执行 |
测试通过 |
|
|
Testcase006 |
记住密码和自动登录功能 |
已执行 |
测试通过 |
|
|
Testcase007 |
按地市订阅项目分类 |
已执行 |
测试通过 |
推荐项目订阅 |
|
Testcase008 |
取消已订阅项目分类 |
已执行 |
测试通过 |
|
|
Testcase009 |
已订阅项目类别消息推送 |
已执行 |
有重复数据推送 |
|
|
Testcase010 |
已订阅项目消息推送提醒 |
已执行 |
重复提醒；提醒消息与打开查看时内容不符；小米4没有消息提醒 |
|
|
Testcase011 |
推荐项目信息分页查看 |
已执行 |
只有上下页跳转功能，看不到明确页数 |
|
|
Testcase012 |
推荐项目信息关键字检索 |
已执行 |
测试通过 |
|
|
Testcase013 |
按地市条件筛选推荐项目信息 |
已执行 |
测试通过 |
|
|
Testcase014 |
推荐项目收藏功能 |
已执行 |
部分项目信息无法收藏 |
|
|
Testcase015 |
推荐消息点击查看 |
已执行 |
公告内容有图片或者表格时内容显示有误 |
|
|
Testcase016 |
我的项目消息推送 |
已执行 |
有重复信息推送；投标人角色没有信息推送 |
我的项目 |
|
Testcase017 |
我的项目信息点击查看 |
已执行 |
公告内容有图片或者表格时内容显示有误 |
|
|
Testcase018 |
我的项目信息分页查看 |
已执行 |
测试通过 |
|
|
Testcase019 |
我的项目信息关键字检索 |
已执行 |
测试通过 |
|
|
Testcase020 |
我的项目信息按消息类型分类检索 |
已执行 |
测试通过 |
|
|
Testcase021 |
我的项目新消息红色字体区分显示 |
已执行 |
测试通过 |
|
|
Testcase022 |
行业资讯信息推送 |
已执行 |
测试通过 |
行业资讯 |
|
Testcase023 |
行业资讯信息点击查看 |
已执行 |
测试通过 |
|
|
Testcase024 |
行业资讯信息分页查看 |
已执行 |
测试通过 |
|
|
Testcase025 |
行业资讯信息关键字检索 |
已执行 |
测试通过 |
|
|
Testcase026 |
我的项目信息收藏 |
已执行 |
测试通过 |
我的收藏 |
|
Testcase027 |
订阅推荐项目信息收藏 |
已执行 |
测试通过 |
|
|
Testcase028 |
收藏项目信息查看 |
已执行 |
测试通过 |
|
|
Testcase029 |
收藏项目信息关键字检索 |
已执行 |
测试通过 |
|
|
Testcase030 |
收藏项目信息删除 |
已执行 |
测试通过 |
|
|
Testcase031 |
收藏项目信息分页查看 |
已执行 |
测试通过 |
|
|
Testcase032 |
用户提交意见建议 |
已执行 |
测试通过 |
意见反馈 |
|
Testcase033 |
提交的意见在页面上显示 |
已执行 |
测试通过 |
|
|
Testcase034 |
意见回复内容在页面上的显示 |
已执行 |
测试通过 |
|
|
Testcase035 |
CA锁到期10日内登录后显示提醒页面 |
已执行 |
测试通过 |
我的CA锁 |
3.2. 安全测试
3.2.1. 软件权限
3.2.1.1. 扣费风险
|
测试内容 |
是否扣费 |
备注 |
|
收发短信 |
否 |
接收短信无费用（如短信验证码） |
|
拨打电话 |
是 |
拨打APP内提供的客服电话有费用（由运营商收取） |
|
连接网络 |
是 |
连接2G、3G、4G及WIFI网络有费用（由运营商收取） |
3.2.1.2. 隐私泄漏风险
|
测试内容 |
是否泄漏 |
备注 |
|
访问手机信息 |
否 |
APP暂时无任何功能和需求会访问手机信息 |
|
访问通讯录信息 |
否 |
APP暂时无任何功能和需求会访问通讯录信息 |
3.2.1.3. 限制性测试
|
测试内容 |
是否限制 |
|
限制/允许使用手机发送接受信息功能 |
允许 |
|
限制/允许应用程序来注册自动启动应用程序 |
允许 |
|
限制/允许使用手机读取用户数据 |
允许 |
|
限制/允许使用手机写人用户数据 |
允许 |
3.2.2. 安装与卸载安全性
|
测试内容 |
测试结果 |
|
应用程序应能正确安装到设备驱动程序上 |
是 |
|
能够在安装设备驱动程序上找到应用程序的相应图标 |
是 |
|
是否包含数字签名信息 |
否 |
|
安装路径应能指定 |
否 |
|
JAD文件显示的资料内容与应用程序显示的资料内容应一致 |
是 |
|
没有用户的允许, 应用程序不能预先设定自动启动 |
是 |
|
卸载是否安全, 其安装进去的文件是否全部卸载 |
是 |
|
卸载用户使用过程中产生的文件是否有提示 |
否 |
|
其修改的配置信息是否复原 |
否 |
|
卸载是否影响其他软件的功能 |
否 |
|
卸载应该移除所有的文件 |
是 |
3.2.2. 数据安全性
|
测试内容 |
测试结果 |
|
当将密码或其他的敏感数据输人到应用程序时, 其不会被储存在设备中, 同时密码也不会被解码 |
是 |
|
输人的密码将不以明文形式进行显示 |
是 |
|
密码或其他的敏感数据将不被储存在它们预输人的位置上 |
否 |
|
不同的应用程序的个人身份证或密码长度必需至少在6一20 个字符长度之间 |
是 |
|
备份应该加密, 恢复数据应考虑恢复过程的异常通讯中断等, 数据恢复后再使用前应该经过校验 |
否 |
|
应用程序应考虑系统或者虚拟机器产生的用户提示信息或安全警告 |
否 |
|
应用程序不能忽略系统或者虚拟机器产生的用户提示信息或安全警告, 更不能在安全警告显示前，利用显示误导信息欺骗用户，应用程序不应该模拟进行安全警告误导用户 |
是 |
|
在数据删除之前，应用程序应当通知用户或者应用程序提供一个“取消”命令的操作 |
是 |
|
“ 取消” 命令操作能够按照设计要求实现其功能 |
是 |
|
应用程序应当能够处理当不允许应用软件连接到个人信息管理的情况 |
否 |
|
当进行读或写用户信息操作时, 应用程序将会向用户发送一个操作错误的提示信息 |
否 |
|
在没有用户明确许可的前提下不损坏删除个人信息管理应用程序中的任何内容 |
是 |
|
应用程序读和写数据正确 |
是 |
|
应用程序应当有异常保护 |
否 |
|
如果数据库中重要的数据正要被重写, 应及时告知用户 |
否 |
|
能合理地处理出现的错误 |
否 |
|
意外情况下应提示用户 |
否 |
3.2.3. 通讯安全性
|
测试内容 |
测试结果 |
|
当创立连接时, 应用程序能够处理因为网络连接中断, 进而告诉用户连接中断的情况 |
否 |
|
应能处理网络异常和及时将异常情况通报用户 |
是 |
|
应用程序关闭或网络连接不再使用时应及时关闭) 断开 |
是 |
|
HTTP、HTTPS覆盖测试 -App和后台服务一般都是通过HTTP来交互的，验证HTTP环境下是否正常； --公共免费网络环境中（如：麦当劳、星巴克等）都要输入用户名和密码，通过SSL认证来访问网络，需要对使用HTTP Client的library异常作捕获处理 |
否 |
3.2.4. 人机接口安全性
|
测试内容 |
测试结果 |
|
返回菜单总保持可用 |
否 |
|
命令有优先权顺序 |
否 |
|
声音的设置不影响应用程序的功能 |
是 |
|
应用程序必需利用目标设备适用的全屏尺寸来显示上述内容 |
是 |
|
应用程序必需能够处理不可预知的用户操作, 例如错误的操作和同时按下多个键 |
否 |
3.3. 安装、卸载测试
3.3.1. 安装
|
测试内容 |
测试结果 |
|
软件在不同操作系统（Palm OS、Symbian、Linux、Android、iOS、Black Berry OS 6.0、Windows Phone 7）下安装是否正常 |
是（只测试了Android、IOS） |
|
软件安装后是否能够正常运行，安装后的文件夹及文件是否写到了指定的目录里 |
是 |
|
软件安装向导的UI测试 |
否 |
|
软件安装过程中意外情况的处理是否符合需求（如死机，重启，断电） |
否 |
|
安装空间不足时是否有相应提示 |
否 |
|
安装后没有生成多余的目录结构和文件 |
是 |
|
依照安装手册是否能顺利安装 |
是 |
3.3.2. 卸载
|
测试内容 |
测试结果 |
|
直接删除安装文件夹卸载是否有提示信息 |
否 |
|
测试系统直接卸载程序是否有提示信息 |
否 |
|
测试卸载后文件是否全部删除所有的安装文件夹 |
是 |
|
卸载过程中出现的意外情况的测试（如死机、断电、重启） |
否 |
|
卸载是否支持取消功能 |
是 |
3.4. UI测试
3.4.1. 导航测试
|
测试内容 |
测试结果 |
|
在不同的连接页面之间需要导航 |
是 |
|
是否易于导航，导航是否直观 |
否 |
|
是否有搜索引擎 |
是 |
|
导航帮助是否准确直观 |
否 |
|
导航与页面结构、菜单、连接页面的风格是否一致 |
否 |
3.4.2. 图形测试
|
测试内容 |
测试结果 |
|
横向比较，各控件操作方式统一 |
是 |
|
自适应界面设计，内容根据窗口大小自适应 |
是 |
|
页面标签风格是否统一 |
是 |
|
页面是否美观 |
否 |
|
页面的图片应有其实际意义而要求整体有序美观 |
否 |
|
图片质量要高且图片尺寸在设计符合要求的情况下应尽量小 |
是 |
|
界面整体使用的颜色不宜过多 |
是 |
3.4.3. 内容测试
|
测试内容 |
测试结果 |
|
输入框说明文字的内容与系统功能是否一致 |
是 |
|
文字长度是否加以限制 |
否 |
|
文字内容是否表意不明 |
否 |
|
是否有错别字 |
否 |
|
信息是否为中文显示 |
是 |
|
是否有敏感性词汇、关键词 |
否 |
|
是否有敏感性图片，如：涉及版权、专利、隐私等图片 |
否 |
3.5. 功能测试
3.5.1. 运行
|
测试内容 |
测试结果 |
|
App安装完成后的试运行，可正常打开软件 |
是 |
|
App打开测试，是否有加载状态进度提示 |
是 |
|
App打开速度测试，速度是否可观 |
否 |
|
App页面间的切换是否流畅，逻辑是否正确 |
逻辑正确，切换不够流畅 |
3.5.2. 注册
|
测试内容 |
测试结果 |
|
后台可否增加用户 |
是 |
|
用户名密码长度是否限制 |
是 |
|
注册后是否有提示页面 |
否 |
|
前台注册页面和后台的管理页面数据是否一致 |
是 |
|
注册后，在后台管理中页面提示 |
否 |
3.5.3. 登录
|
测试内容 |
测试结果 |
|
使用合法的用户登录系统 |
是 |
|
系统是否允许多次非法的登陆，是否有次数限制 |
否 |
|
使用已经登陆的账号登陆系统是否正确处理 |
是 |
|
使用禁用的账号登陆系统是否正确处理 |
是 |
|
用户名、口令（密码）错误或漏填时能否登陆 |
否 |
|
删除或修改后的用户，原用户登陆 |
否 |
|
不输入用户口令和用户、重复点（确定或取消按钮）是否允许登陆 |
否 |
|
页面中有退出登录按钮 |
是 |
|
登陆超时的处理 |
否 |
3.5.4. 注销
|
测试内容 |
测试结果 |
|
是否能正常注销 |
否 |
|
注销原用户，新用户系统能否正确处理 |
否 |
|
使用错误的账号、口令、无权限的被禁用的账号进行注销 |
否 |
3.5.5. 应用的前后台切换
|
测试内容 |
测试结果 |
|
APP切换到后台，再回到app，检查是否停留在上一次操作界面 |
否 |
|
APP切换到后台，再回到app，检查功能及应用状态是否正常 |
是 |
|
手机锁屏解屏后进入app注意是否会崩溃，功能状态是否正常，尤其是对于从后台切换回前台数据有自动更新的时候 |
否（个别情况下APP会白屏） |
|
当App使用过程中有电话进来中断后再切换到app，功能状态是否正常 |
是 |
|
当杀掉app进程后，再开启app，app能否正常启动 |
是 |
|
出现必须处理的提示框后，切换到后台，再切换回来，检查提示框是否还存在，有时候会出现应用自动跳过提示框的缺陷 |
是 |
3.5.6. 免登入
|
测试内容 |
测试结果 |
|
App是否有免登录功能，需要考虑IOS版本差异 |
否 |
|
考虑无网络情况时能否正常进入免登录状态 |
否 |
|
切换用户登录后，要校验用户登录信息及数据内容是否相应更新，确保原用户退出 |
是 |
|
切换到后台，再切换回前台的测试 |
是 |
|
密码更换后，检查有数据交换时是否进行了有效身份的校验 |
否 |
|
检查用户主动退出登录后，下次启动app，应停留在登录界面 |
是 |
3.5.7. 数据更新
|
测试内容 |
测试结果 |
|
需要确定哪些地方需要提供手动刷新，哪些地方需要自动刷新，哪些地方需要手动+自动刷新 |
是 |
|
从后台切换回前台时需要进行数据更新 |
是 |
|
根据业务、速度及流量的合理分配，确定哪些内容需要实时更新，哪些需要定时更新 |
是 |
|
确定数据展示部分的处理逻辑，是每次从服务端请求，还是有缓存到本地 |
是 |
|
检查有数据交换的地方，均有相应的异常处理 |
否 |
3.5.8. 离线浏览
|
测试内容 |
测试结果 |
|
在无网络情况可以浏览本地数据 |
否 |
|
退出app再开启app时能正常浏览 |
否 |
|
切换到后台再切回前台可以正常浏览 |
否 |
|
锁屏后再解屏回到应用前台可以正常浏览 |
否 |
|
在对服务端的数据有更新时会给予离线的相应提示 |
否 |
3.5.9. APP更新
|
测试内容 |
测试结果 |
|
当客户端有新版本时，有更新提示 |
否 |
|
当客户端有新版本时，在本地不删除客户端的情况下，直接更新检查是否能正常更新 |
是（客户端自动更新） |
3.5.10. 时间测试
|
测试内容 |
测试结果 |
|
修改系统时间，后台发布信息时间是否随之更改 |
是 |
|
修改手机时间，推送信息时间是否随之更改 |
否 |
3.5.11. 性能测试
3.5.11.1. 响应测试
|
测试内容 |
测试结果 |
|
运行App时断掉网络，是否影响手机其它使用 |
否 |
|
安装、卸载的响应时间，是否能够接受 |
是 |
|
App各类功能性操作的响应时间，是否能够接受 |
否（推荐项目订阅功能响应有点慢） |
|
反复进行安装卸载，查看系统资源是否正常 |
是 |
3.5.12. 交叉性事件测试
|
测试内容 |
测试结果 |
|
多个App同时运行是否影响正常功能 |
否 |
|
App运行时前/后台切换是否影响正常功能 |
否 |
|
App运行时拨打/接听电话是否影响正常功能 |
否 |
|
App运行时发送/接收信息是否影响正常功能 |
否 |
|
App运行时切换网络（3G、4G、wifi）是否影响正常功能 |
否 |
|
App运行时浏览网络是否影响正常功能 |
否 |
|
App运行时使用蓝牙传送/接收数据是否影响正常功能 |
否 |
|
App运行时使用相机、计算器等手机自带设备是否影响正常功能 |
否 |
|
App运行时充电是否影响正常功能 |
否 |
3.6. 兼容测试
|
测试内容 |
测试结果 |
|
与本地及主流App是否兼容 |
是 |
|
基于开发环境和生产环境的不同，检验在各种网络连接下(WiFi、GSM、GPRS、EDGE、WCDMA、CDMA1x、CDMA2000、HSPDA等)，App的数据和运用是否正确 |
是（只测了3G、4G、wifi） |
|
不同操作系统的兼容性，是否适配 |
是（测了IOS9.0及以上、安卓4.0及以上） |
|
不同手机屏幕分辨率的兼容性 |
是（测了iPhone4s\5s\6\6p、小米4、华为荣耀4） |
|
不同手机品牌的兼容性 |
是（测了苹果、华为、小米） |
3.7. 用户体验测试
|
测试内容 |
测试结果 |
|
是否有空数据界面设计，引导用户去执行操作 |
否 |
|
是否滥用用户引导 |
否 |
|
是否有不可点击的效果，如：你的按钮此时处于不可用状态，那么一定要灰掉，或者拿掉按钮，否则会给用户误导 |
否 |
|
菜单层次是否太深 |
否 |
|
交互流程分支是否太多 |
否 |
|
一次是否载入太多的数据 |
否 |
|
界面中按钮可点击范围是否适中 |
否（回退和订阅按钮操作体验不佳） |
|
标签页跟内容是否有从属关系，当切换标签的时候，内容跟着切换 |
是 |
|
操作应该有主次从属关系 |
是 |
|
是否有横屏模式的设计，应用一般需要支持横屏模式，即自适应设计 |
否 |
4. 测试结果
根据测试组综合评定，给与以下测试结果，仅供参考
|
序号 |
内容 |
结果 |
|
1 |
测试环境不具备，未完成测试 |
|
|
2 |
测试内容不完整，未完成测试 |
|
|
3 |
测试合格，允许上线 |
|
|
4 |
测试不合格，需做修改后上线 |
√ |
|
5 |
测试不合格，不允许上线 |