It would be great if FME Cloud came in a "Home Edition" free of charge for hobby use.有什么计划吗?
我们最近向FME云警报添加了一个新警报。这个Unresponsive server警觉的:
你好,
我正在尝试检索要在fmecloudInstanceController转换器上使用的fme cloud实例ID,但是,它似乎无法通过服务器UI使用。
我怎样才能找回它们?Server API?
谢谢!
约翰
I have FME Cloud setup to run a workspace when it receives an e-mail.工作区以前位于另一个存储库中,现在已被删除,但仍尝试运行已删除的和当前的。I have rebooted the server but have not been able to figure out why the workspace that no longer exists is trying to run.
当前repo中的工作区将成功运行,但它也会尝试运行已删除的工作区。
状态消息 |
无法打开文件字段数据处理/filenamevalidation/filenamevalidation.fmw |
FME Cloud comes with a great set of tools to allow the user to easily set up alerts based on certain conditions that might affect the uptime and performance of an FME Cloud instance.但在我们能做到之前创建警报和配置通知 我们需要了解警报所基于的指标。当创建警报或在实例页上的监视选项卡下选择实例时,这些指标可见。
FME服务器的内存消耗很大程度上取决于底层工作空间和使用的变压器。The Memory Usage metric is the first metric to look at if an FME Cloud instance seems to be in trouble.内存不足是导致失效的FME云实例最常见的原因之一。某些作业可能会突然失败,日志文件可能没有您要查找的信息。The metric can also help to investigate job failures.在查看内存使用情况时要记住的一点是,当内存不足时,可能还需要检查临时磁盘使用情况。Some translations will write to the temporary disk when the instance runs out of Memory.
主磁盘包含FME服务器安装,发布到FME服务器和PostgreSQL数据库的数据。我们绝对建议密切关注这个指标,并针对主要磁盘使用情况设置警报。当主磁盘已满时,即使在实例重新启动之后,Web应用程序服务器也可能会关闭并无法正确启动。通常恢复的唯一方法是回滚到以前的备份。这就是为什么主磁盘使用率警报(超过10分钟的90%使用率)是一个非常重要的警报,并且默认情况下为所有实例启用。另一个防止磁盘空间耗尽的非常有用的工具是FME服务器系统清理.
此磁盘映射到FME服务器上的临时资源文件夹。当实例暂停且未备份时,它将被擦除。This temporary disk usage can also increase when the instance runs low on memory and starts to write out temporary data.当临时磁盘使用中出现异常模式时,建议始终检查内存使用情况。一定要检查这个关于临时磁盘的文章.
可以通过FME服务器的Web用户界面设置FME服务器引擎计数。比最初设置的发动机计数高可能有不同的原因。Depending on your 亚搏在线workflow,使用fmeserverjobsubmitter可以通过作业启动其他引擎。If a higher number of engines appears then you would expect in the metrics,可能有问题。Pay particular attention if there is a pattern of engines starting and not shutting down anymore.你需要调查这个问题。如果需要恒定的引擎计数,设置警报以在指标更改时立即通知非常有用。
网络吞吐量度量允许您以每秒千字节为单位监视FME云实例的输入和输出。如果您在FME上实现了一个允许客户上传和下载数据的解决方案,this can be very useful to detect any unusual behavior.
该指标指向FME服务器健康检查页面。A high number might indicate that the server is under heavy load and responds slower than usual to requests.If you experience a response time longer than 500 ms over a period of 10 minutes or more,您应该查看实例并检查其他指标,如服务器负载或内存,以查看实例是否在挣扎。
A high server load often comes in combination with a high memory utilization.也,the more engines you run,服务器负载越高。要正确解释服务器负载并为警报设置足够的阈值,it is important to understand the server load metric and its implications regarding the number of cores of your FME Cloud instance.A load of 1.0 means 100% utilization of 1 core.我们的FME Cloud Starter实例有两个核心,因此负载为2.0表示这两个核心得到了充分利用。因此,假设您最近在标准大小的实例(4核和16 GB RAM)上增加了引擎,并希望确保您的FME云实例能够处理它。In this case you should set your alert to trigger when the load exceeds 2.8,which is the equivalent to 70% utilization of 4 cores,for more than 30 minutes.
2017年,我们推出了下一代FME云实例随来NGINX reverse proxy configuration,更多可用区域,新的实例类型和临时磁盘。
为了充分利用临时磁盘的功能,我们需要研究并理解3个不同的概念或机制:
在理解了这三个方面的含义和影响之后,我们将能够利用FME云上的临时磁盘来提高我们的工作流程的性能。亚搏在线
在主磁盘上,we store the FME Server installation and the FME Server Shared resources with one exception,the Temp folder.FME服务器资源中的temp文件夹是到FME云实例的临时磁盘的资源连接。
顾名思义,temp文件夹只能用于不需要在FME云实例上持久化的数据。不需要持久化的数据通常是在某个工作区中处理的上载用户数据,您可以从云资源(如AWS S3)下载数据以在FME云上进行处理,而在转换过程中,FME需要将数据写入磁盘(我们将很快对此进行详细了解)。这些数据应该转到临时磁盘而不是主磁盘的原因有两个:
1.Stability:当主磁盘已满时,即使在实例重新启动之后,Web应用程序服务器也可能会关闭并无法正确启动。通常恢复的唯一方法是回滚到以前的备份。如果我们不存储难以控制和估计的数据,如用户数据或临时FME输出,就可以避免这种风险。在主磁盘上。
2。灵活性:每次重新启动FME云实例后,将清除临时磁盘。This allows us to adjust the size of the temporary disk in a much more flexible way than the primary disk.主磁盘的大小只能增加,而临时磁盘的大小可以随时根据您的要求进行增减。
3.可利用性:因为每次重新启动FME云实例时都会清除临时磁盘,确保足够的磁盘空间可用的开销明显较低,因为您可以轻松地清除整个磁盘,例如在周末计划重新启动。
4。负担能力: The temporary disk is not included in the FME Cloud backup and therefore you can dramatically lower your backup costs by storing the data you won't necessarily need in the future on the temporary disk.
许多与FME的转换需要将数据写入磁盘以供将来处理。最常见的原因之一是内存不足,FME服务器试图优化内存。有些人可能记得几年前,日志文件中的一条消息就意味着工作区基本上已经失败了,即使它仍在尝试:
ResourceManager: Optimizing Memory Usage.请等待…
但从那以后我们走了很长的路。我们的开发人员对内存利用率进行了相当大的优化,而且快速SSD磁盘的价格也提高了,这使得这个场景不再像以前那样毫无希望了。
内存密集型转换的常见疑点是带有合并或覆盖后缀的变形金刚(例如FeatureMerge或PointOnAreaOverlayer)。点云相关变压器需要为排序或分组目的“保留特征”的变压器。
FME云运行在AWS EC2实例上,并使用AWS通用SSD(GP2)卷。要了解这些卷的两个重要细节是I/O信用和突发性能。In general,我们可以说,磁盘越大,每秒的最小输入/输出操作(IOPS)就越高。
此外,对于基准性能,the AWS gp2 Volumes smaller than 1000 GB,还能够在信用系统的基础上实现3000 IOPS的性能突发,这同样基于磁盘的大小:磁盘越大,最大突发性能持续时间越长。有关awss gp2卷性能的所有详细信息,make sure to check out this AWS blog post:
简单来说,这意味着我们的临时磁盘越大,我们对它的读写速度就越快。现在我们知道,FME在转换期间使用临时磁盘来写入我们的临时数据,并且我们更喜欢将来自用户或云服务的输入数据存储在临时磁盘上,很容易理解,根据我们的需要调整磁盘大小的能力不仅是一种增加存储空间的工具,也是一种提高性能的好方法。
有关如何调整临时磁盘大小的详细信息,请参阅我们的文档和教程:
而不是基于EC2的FME云,是否可以将FME工作区作为一项服务运行:像AWS lambda这样的东西,每次运行都要付费。当FME不连续/经常使用时,这将适用于这种情况。但需要时需要提供。
FME云正在Ubuntu操作系统上运行。To make sure your instance is protected against all known security threats,只要有新的安全更新可用,就需要更新操作系统。
启动实例时,可以选择两种不同的方法为FME云实例安装安全更新:
一旦安全更新可用,就在后台安装。某些安全更新可能需要重新启动实例。You can check the Security Update Status of your instances for instructions.
对于用户启动的安全更新,必须在更新可用后启动更新。根据更新情况,安装后可能需要重新启动实例。You can check the Security Update Status of your instances for instructions.
We also recommend tomonitor instance events以确保应用所有必要的更新。
越来越多的数据存储在云存储服务中,公司开始将本地IT基础设施移动到云上,以节省成本并提高性能。FME云是一种平台即服务(PaaS),它允许您利用FME服务器的功能,而无需麻烦硬件维护。此外,you will benefit from无限制发动机(只要您的实例能够处理它),灵活定价and great performance in combination with other cloud services.
但是,在将所有工作流从FME服务器移动到FME云之前,您需亚搏在线要考虑一些事情来充分利用它。
在转移到FME云之前,要问自己一个非常重要的问题,那就是您正在处理的数据在哪里。如果您正在使用云服务提供商将所有数据移动到云上,使用FME云提高性能的可能性很高。FME Cloud works best when it's close to the data.
如果数据将保留在不允许外部连接的内部网络中的本地数据中心,FME服务器很可能是更好的选择。
请查看此比较,了解有关FME服务器和FME云.
FME云实例在Linux上运行,不能直接访问文件系统。除了一些例外,几乎所有格式都支持Linux,but if you are migrating your 亚搏在线workflows from FME Server running on Windows to FME Cloud you need to check if your workspaces are using formats that are not supported.如果您要查找特定的格式,FME Integrations Galleryis a very good source.在每个格式页的底部,兼容性概述将指示FME云上是否支持该格式。另一个伟大的资源是格式化矩阵where you can also check if a format is supported on FME Cloud.Every format that does not require additional software or 3rd party libraries installed and is available on Linux will be supported on FME Cloud.
由于无法在FME云上安装和许可第三方库,因此支持ESRI格式也是有限的。
Microsoft SQL Server database formats are supported on FME Cloud via our JDBC based Readers & Writers.
我们建议结合使用AWS RDS实例数据库和FME云,以获得最佳性能。要记住的一点是,您的FME云实例应该连接到的数据库需要公开可用。一个好的做法是只允许FME云实例的IP地址访问数据库。有关如何保护对数据库的访问以及如何将静态IP地址分配给FME云实例的详细信息,请参见Q&A post.
FME云实例部署在自己的虚拟私有云(VPC)中,因此无法访问任何非公共网络资源。我们强烈反对使用与FME云共享的公共网络。我们建议使用AWS S3作为外部资源。你可以了解更多关于using and configuring S3 with FME Cloud.除了AWS S3之外,其他云存储服务,如Google Drive,可以使用一个驱动器或Dropbox。
在从FME服务器转移到FME云之前要检查的另一个非常重要的事情是,检查您的任何工作流是否包含到正在运行的机器FME服务器的文件系统的硬编码路径。亚搏在线读取或写入磁盘的每个工作区都应使用FME服务器共享资源参数.这将确保在将FME服务器迁移到FME云或任何其他FME服务器安装时,不会遇到硬编码路径的任何问题。
请随时在下面的评论中分享您在将FME服务器移动到FME云时的所有经验。